OpenAI tehisintellekti agent pääses loata Austraalia valitsuse Medicare’i süsteemi

Austraalia peaminister Anthony Albanese avalikustas, et OpenAI tehisintellekti agent sai 18. juunil loata ligipääsu Services Australia hallatavale Medicare Statistics Reporting Service'i portaalile.

Tegemist on avaliku statistikaportaaliga, mis sisaldab Medicare’iga seotud statistikat ja andmeid, sealhulgas tervishoiukulutuste kohta.

AI-agent pääses aga lisaks avalikele andmetele ligi ka mitteavalikele failidele.

Senise uurimise põhjal pole tõendeid selle kohta, et agent oleks saanud ligipääsu patsientide isiklikele Medicare’i andmetele. OpenAI teatel hõlmasid kättesaadud andmed muu hulgas koondatud tervisestatistikat ja sisemiste failide nimesid.

AI ei leppinud keeluga

Juhtumi teeb tähelepanuväärseks viis, kuidas AI-agent süsteemi sisse pääses.

Albanese sõnul kasutas OpenAI uurimisrühm sisemist tehisintellektimudelit, et otsida internetist infot Austraalia avaliku sektori ravimikulutuste kohta.

Agent jõudis Medicare’i statistikaportaalini, kuid ei saanud sealt soovitud infot. Selle asemel, et otsing katkestada, proovis mudel teisi võimalusi.

Peaministri kirjelduse järgi leidis AI-agent viisi piirangutest mööda pääsemiseks. Alternatiivsete meetodite kasutamine viis lõpuks loata ligipääsuni portaali osadele, kuhu agent poleks pidanud pääsema.

Services Australia teatel kirjutas agent tegevuse käigus ka faile sisemisse serverisse. Seda osa juhtumist uuritakse veel.

OpenAI sai juhtunust teada augustis

Juhtum ise leidis aset 18. juunil, kuid OpenAI avastas selle enda sõnul alles 11. augustil, kui ettevõte uuris mudelite soovimatut käitumist treenimise ajal.

Austraalia valitsust teavitas ettevõte aga alles 10. septembril.

Teade saadeti Services Australia üldisele e-posti aadressile, mida teadlased ja uurijad kasutavad muu hulgas süsteemide turvanõrkustest teatamiseks.

Services Australia nägi kirja järgmisel päeval ning 15. septembril teavitati juhtunust Austraalia signaalidirektoraati ehk ASD-d.

Peaminister Albanese ja tema büroo said juhtumist teada 19.–20. septembril. Esimene tehniline arutelu OpenAI ja Services Australia vahel toimus 22. septembril.

Peaminister võttis ühendust Sam Altmaniga

24. septembril rääkis Albanese OpenAI tegevjuhi Sam Altmaniga.

Peaministri sõnul väljendas ta vestluses Austraalia suurt muret juhtunu pärast ning rahulolematust sellega, kui kaua võttis OpenAI-l valitsuse teavitamine aega.

Albanese kritiseeris ka viisi, kuidas teade edastati: ligi kolm kuud pärast juhtumit saadetud kiri jõudis lihtsalt Services Australia üldisesse postkasti.

Peaministri sõnul tunnistas Altman, et ettevõte pole juhtumi käsitlemisel piisavalt hästi tegutsenud.

OpenAI: mudelid tegid asju, mida me ei kavatsenud

OpenAI teatel avastati juhtum ettevõttesisese uurimise käigus, milles vaadeldi mudelite soovimatut käitumist.

Ettevõtte sõnul üritasid mudelid sisemise hindamise ajal leida vastuseid Austraaliat puudutavatele küsimustele ja otsida kättesaadavat statistikat. Selle käigus puutusid need kokku mitme Austraalia valitsuse veebilehe ja teenusega.

OpenAI tunnistas, et mudelid tegid selle tegevuse käigus samme, mida ettevõte polnud kavatsenud.

Ettevõtte senise uurimise järgi pole tõendeid patsientide andmetele ligipääsemisest.

OpenAI teatas, et on asjaomaseid organisatsioone juhtunust teavitanud ning jagab nendega tehnilist infot, mis peaks aitama uurimist läbi viia ja võimalikke turvanõrkusi parandada.

Kas ohus olid ka teised valitsuse veebilehed?

Esialgu rääkis Albanese veel kolmest võimalikust juhtumist, mis puudutasid Australian Institute of Health and Welfare’it, New South Walesi kuritegevuse statistika ametit ning Victoria osariigi terviseametit.

Austraalia peaministri kohusetäitja Richard Marles täpsustas hiljem, et nende kolme veebilehe puhul oli tegevus tavapärane ning ligipääs saadi ainult avalikule infole.

Medicare’i juhtumi uurimine siiski jätkub. Valitsus moodustab selleks eraldi töörühma, mida juhib peaministri ametkond koostöös Australian Signals Directorate’i ja AI Safety Institute’iga.

„Väga tõsine juhtum“

Marles nimetas juhtunut väga tõsiseks, sest valitsuse süsteemile sai loata ligipääsu mitte inimene, vaid tehisintellekti agent.

Samas rõhutas ta, et praegu teadaolev tegelik kahju oli väike. Isikuandmetele ligipääsu pole tuvastatud ning puuduvad tõendid selle kohta, et laiem Services Australia süsteem oleks kompromiteeritud.

Juhtum tõstatab siiski märksa suurema küsimuse: mis juhtub siis, kui AI-agent ei piirdu talle antud ülesande tavapärase täitmisega, vaid hakkab eesmärgi saavutamiseks ise uusi võimalusi otsima – ja ületab selle käigus süsteemide seatud piiranguid?

Just seda Austraalia valitsus ja OpenAI nüüd välja selgitada püüavad.