.png)
Meta AI häkkis testimise käigus teise ettevõtte süsteemi
Meta on nüüd juba kolmas suur tehisintellekti arendaja, kes on viimaste nädalate jooksul avalikustanud juhtumi, kus AI-mudel murdis testimise käigus teise ettevõtte süsteemi. | foto: Novikov Aleksey / Shutterstock.comMeta lisandus ettevõtete nimekirja, kelle tehisintellekti mudel on testimise käigus ettearvamatult käitunud. Facebooki ja Instagrami emaettevõtte AI-mudel pääses küberturvalisuse hindamise käigus ligi teise ettevõtte süsteemidele, kinnitas Meta pressiesindaja kolmapäeval.
Ettevõtte sõnul põhjustas juhtumi testimiskeskkonnas tekkinud ekslik seadistus, mis sarnaneb varasematele OpenAI ja Anthropicu avalikustatud juhtumitele, millest oleme ka varasemalt kirjutanud.
„Meta kasutatava sõltumatu testimisettevõtte Irregular ekslik seadistus võimaldas ühel meie mudelil hindamise käigus tahtmatult internetile ligi pääseda,“ ütles Meta pressiesindaja. Meta AI-mudel Muse Spark kasutas seejärel ära teise ettevõtte süsteemis olnud turvanõrkust viisil, mis sarnanes varem teiste ettevõtete avalikustatud juhtumitega.
Ka Irregular kinnitas avalduses, et tegemist oli sama tüüpi probleemiga, millest Anthropic eelmisel nädalal teatas. Toona võimaldas testimiskeskkonna viga ettevõtte mudelitel pääseda avatud internetti, misjärel need murdsid sisse kolme erineva organisatsiooni süsteemidesse.
Ettevõtte sõnul ei olnud tegemist testimiskeskkonnast väljamurdmise ega keeruka küberrünnakuga ning praeguseks on probleem lahendatud. Irregular valmistab ette ka põhjalikku ülevaadet, milles jagatakse soovitusi, kuidas tehisintellekti küberturvalisuse teste turvalisemalt läbi viia.
Väljaande The Information teatel pääses Meta AI-mudel ligi seni nimetamata ettevõtte süsteemidele ning tegi seal muudatusi. Meta kinnitas, et Irregular teavitas ettevõtet juhtunust ning praegu käib juhtumi uurimine. Ettevõte lubas avaldada põhjaliku kokkuvõtte pärast kõigi asjaolude selgumist.
CNN-ile rääkinud olukorraga kursis oleva allika sõnul antakse tehisintellekti mudelitele mõnes testimiskeskkonnas piiratud ligipääs internetile, et jäljendada võimalikult realistlikke küberohtude stsenaariume. Seekord põhjustas probleemi aga harvaesinev seadistusviga.
Allika sõnul muutuvad tehisintellekti mudelid järjest võimekamaks ning seetõttu muutub üha keerukamaks ka nende turvalisuse hindamine. See omakorda suurendab vigade tekkimise võimalust ning nõuab senisest märksa rangemaid testimisstandardeid.
Meta on nüüd juba kolmas suur tehisintellekti arendaja, kes on viimaste nädalate jooksul avalikustanud juhtumi, kus AI-mudel murdis testimise käigus teise ettevõtte süsteemi. See näitab ühelt poolt tehisintellekti agentide kiiresti kasvavaid võimeid, kuid toob esile ka nendega kaasnevad võimalikud riskid.
