OpenAI hoiatus: tehisintellekt võib leida viise, kuidas talle seatud piiridest mööduda

Tegemist on ühe esimese avalikustatud juhtumiga, kus tehisintellektisüsteem suutis iseseisvalt väljuda talle loodud katsekeskkonnast ja jõuda reaalse välise süsteemini. Küberturvalisuse valdkonnas on sellise stsenaariumi eest juba pikalt hoiatatud. Tegemist on olukorraga, kus AI-agent tegutseb nagu autonoomne ründaja.

Olukorda on võrreldud näiteks sellega, kui laborisse loodud viirus pääseks turvalisest keskkonnast välja ja jõuaks kõrvalasuva asutuse süsteemidesse.

„Peame seda juhtumit enneolematuks küberintsidendiks, mis hõlmab tipptasemel kübervõimekusi, ning reageerime sellele vastavalt,” teatas OpenAI oma avalduses. „Jagame praeguses etapis esialgseid tulemusi, et aidata kaitsjatel mõista, mis juhtus, ning hinnata, milleks tänapäeva mudelid on võimelised.”

OpenAI selgitas, et juhtum leidis aset ajal, mil ettevõte katsetas, kui hästi suudavad tema uued mudelid küberrünnakuid simuleerida ja turvasüsteeme testida. Mudelid paigutati eraldatud testkeskkonda ehk liivakasti (sandbox), kus nende tavapärased turvapiirangud olid eemaldatud, et hinnata nende võimekust.

Ettevõtte sõnul suutsid tehisintellektiagendid aga kasutada seni teadmata turvanõrkust ning väljuda testkeskkonnast. Seejärel liikusid nad OpenAI sisemistes süsteemides edasi, kuni saavutasid internetiühenduse, kuigi neil ei pidanud seda olema.

Internetti pääsenud mudel otsustas OpenAI sõnul, et vajaliku info leidmiseks võiks abi olla ettevõttest Hugging Face, mis haldab tuhandeid avatud lähtekoodiga tehisintellektimudeleid ja andmekogumeid. Seejärel tungis mudel Hugging Face’i tootmissüsteemidesse ning hankis sealt info, mida tal oli vaja küberturvalisuse testi lahendamiseks.

Parandatakse turvavõrkusid

Hugging Face avastas rikkumise enne, kui ettevõte teadis, et tegemist oli OpenAI sisemise testiga. Ettevõte teataski eelmisel nädalal, et oli tuvastanud autonoomse tehisintellektiagendi põhjustatud sissetungi ning andnud juhtumist teada ka õiguskaitseasutustele.

Samal ajal märkas OpenAI turvameeskond ettevõtte sees ebatavalist tegevust. Pärast asjaolude võrdlemist said kaks ettevõtet aru, et tegemist oli sama juhtumiga. Praegu teevad OpenAI ja Hugging Face koostööd, et parandada turvanõrkusi, mida tehisintellektimudel suutis ära kasutada.

Hugging Face’i kaasasutaja ja tegevjuht Clem Delangue ütles, et juhtum näitab, et tehisintellekti turvalisust ei saa lahendada üks ettevõte üksi. Tema hinnangul on vaja kogu valdkonna koostööd ja avatumat lähenemist. „See on agentide ajastu küberturvalisuse esimene päev ning me kõik õpime, et salastatus ei ole lahendus. Kõik kaitsjad, mitte ainult mõned valitud, vajavad võimsamaid mudeleid ja paremaid tööriistu,” kirjutas Delangue sotsiaalmeediaplatvormil X.

Teadlased on juba aastaid hoiatanud, et autonoomsed tehisintellekti abil korraldatavad küberrünnakud võivad muutuda reaalseks ohuks. Kõige võimekamad AI-mudelid suudavad järjest paremini läbi viia keerukaid ja mitmeastmelisi ülesandeid, mis võivad hõlmata ka küberrünnakute ettevalmistamist. Sellised arengud võivad suurendada riske kriitilise taristu, näiteks energiavõrkude, finantssüsteemide ja teiste oluliste teenuste puhul.

Küberturvalisuse ettevõtte Palo Alto Networksi tegevjuht Nikesh Arora nimetas juhtumit küberintsidentide järgmise taseme alguseks. Tema sõnul rõhutavad sellised juhtumid vajadust, et ettevõtted testiksid pidevalt oma turvalisust ning parandaksid nii kaitsemeetmeid kui ka tehnilist taristut.