Dirbtinio intelekto įmonių darbuotojai prašo saugiklių sulėtinti plėtrą: gali pranokti žmonių gebėjimus sukontroliuoti
Daugiau nei 1 000 darbuotojų iš pirmaujančių dirbtinio intelekto (DI) bendrovių pasirašė atvirą laišką, kuriame raginama įdiegti apsaugos priemones, leidžiančias, esant reikalui, sulėtinti sparčią DI plėtrą, ir įspėjama, kad ši technologija gali pranokti žmonijos gebėjimus ją suprasti ar kontroliuoti.
Laiške, kurį pasirašė 1 171 tyrėjas ir vadovas iš tokių bendrovių kaip „OpenAI“, „Anthropic“, „Meta“ ir „Google“, JAV vyriausybė raginama prisijungti prie tarptautinių pastangų kurti technines ir reguliavimo priemones, skirtas DI plėtros tempui valdyti.
Pasirašiusieji teigė, kad DI sistemos netrukus gali tapti pajėgios tobulinti save pačios, be žmogaus įsikišimo.
Didelė dalis programinės įrangos kodo technologijų įmonėse jau dabar yra sukuriama DI, kurį prižiūri žmonės. Taškas, kai pats DI vystymasis galės būti automatizuotas, yra plačiai laikomas galimu lūžio tašku.
Nors sunku prognozuoti, kaip toks įvykis lemtų tolesnę pažangą, egzistuoja „reali rizika“, kad DI pažangos tempas „greitai paspartės iki tiek, kad viršys mūsų gebėjimus suprasti ar kontroliuoti naujai atsiradusias sistemas“, teigiama laiške.
Pasirašiusieji laišką teigė, kad reikalingi suderinti tarptautiniai veiksmai, nes vyriausybės ir DI kūrėjai susiduria su konkurenciniu spaudimu nelėtinti vystymosi. Taip pat, pasak jų, dar neegzistuoja techninės priemonės ir teisinis reguliavimas, kurių reikia tokiam scenarijui valdyti.
Šis laiškas buvo paskelbtas po incidento, susijusio su „OpenAI“ modeliu, kurį daugelis technologijų pramonės atstovų įvertino kaip pavojaus signalą. Bandymo metu DI modelis gavo prieigą prie atviro interneto ir savarankiškai įsiskverbė į kitos DI įmonės kompiuterines sistemas, pasinaudodamas anksčiau neatrastomis saugumo spragomis.
ELTA, DPA inf.
Išklausyti garso formatu
Panašios naujienos:
-
-
Paskutiniai numeriai
-
-
Savaitė - Nr.: 31 (2026)
-
Anekdotas
– Nusipirkau butą naujame name, nebrangiai, bet garso izoliacija tokia, kad girdžiu, kaip kaimynas telefonu kalba!
– Tai tau dar pasisekė: pas mus girdisi, ką kaimynui pašnekovas telefonu atsako. -
-
