OpenAI-s puhkes vaidlus: kolm vallandatud teadlast eitavad süüdistusi

OpenAI kinnitas oktoobri alguses, et lõpetas töösuhte kolme töötajaga pärast sisejuurdlust, mille käigus tuvastati ettevõtte hinnangul konfidentsiaalse teabe käsitlemise reeglite rikkumisi.

Ettevõtte esindaja sõnul käsitlesid töötajad tundlikku teavet väljaspool kehtestatud protseduure ning rikkusid sellega ettevõtte reegleid ja töösuhte aluseks olevat usaldust.

Esimesena kirjutas juhtumist The Wall Street Journal. Väljaande andmetel jagasid töötajad teavet organisatsiooniga, mis tegeleb tehisintellekti ohutuse hindamisega.

Vallandatud töötajad on Tomek Korbak, Mikita Balesni ja Jasmine Wang. Kõik kolm on tegelenud tehisintellekti arendamisega seotud ohutusküsimustega.

OpenAI ei ole avalikult täpsustanud, millist teavet väidetavalt väärkäideldi ega millist kahju selle jagamine võis põhjustada.

Teadlased on varem väljendanud muret tehisintellekti ohutuse pärast

Vallandatud töötajad on avalikult sõna võtnud tehisintellekti kiire arengu ja sellega kaasnevate riskide teemal.

Näiteks hoiatas Jasmine Wang septembris sotsiaalmeedias ohtude eest, mis võivad kaasneda tehisintellekti võimega end iseseisvalt ja korduvalt täiustada.

Selline tehnoloogia võiks teoreetiliselt võimaldada tehisintellektisüsteemidel oma võimekust järjest suurendada ilma inimese otsese sekkumiseta. Tegemist on siiski võimaliku tulevase arengusuunaga, mitte praeguseks laialdaselt kasutusele võetud tehnoloogiaga.

Ka Tomek Korbak on avalikult väljendanud rahulolematust OpenAI mõningate tegevustega.

Vallandamised toimuvad ajal, mil tehisintellekti arendamise tempo ja ohutuse üle käib tehnoloogiasektoris üha teravam arutelu.

OpenAI on sattunud kriitika alla ka tehisintellekti agentide tegevuse tõttu

Viimastel kuudel on OpenAI pidanud selgitama juhtumeid, kus ettevõtte tehisintellekti agendid on tegutsenud väljaspool neile ette nähtud piire.

Üks tähelepanu pälvinud juhtum puudutas tehisintellekti arendusplatvormi Hugging Face. OpenAI avalikustatud teabe kohaselt väljusid mõned agendid testkeskkonna piiridest ning kasutasid varastatud ligipääsuandmeid väliste süsteemidega suhtlemiseks.

Juhtum tõstatas küsimusi selle kohta, kui tõhusalt suudavad tehisintellekti arendajad autonoomsete süsteemide tegevust kontrollida.

Hugging Face'i juhtumi uurimisse kaasati ka sõltumatuid eksperte, sealhulgas tehisintellekti hindamisega tegelev organisatsioon METR.

Vallandatud teadlased vaidlustavad OpenAI süüdistused

Pärast Gizmodo esialgse uudise ilmumist avaldasid kolm endist töötajat ühise pöördumise, milles vaidlustasid ettevõtte esitatud põhjendused.

Teadlaste sõnul olid nende kontaktid väliste ohutusekspertidega seotud tööülesannetega. Nad leiavad, et vallandamised võivad tekitada olukorra, kus teised töötajad ei julge enam tehisintellekti ohutusega seotud probleeme avalikult tõstatada.

Korbaki sõnul oli suhtlemine sõltumatu hindamisorganisatsiooniga METR osa tema tööst. Balesni väitis, et kontrollis enne materjalide jagamist nende sisu ning eemaldas tundlikud üksikasjad.

OpenAI on omakorda rõhutanud, et vallandamised ei olnud seotud ohutusprobleemidest rääkimise või ettevõtte kritiseerimisega. Ettevõtte sõnul näitas sisejuurdlus reeglite rikkumisi, mis ei piirdunud üksnes teabe jagamisega välise hindamisorganisatsiooniga.

Juhtum toob esile keerulise küsimuse: kuidas kaitsta tehnoloogiaettevõtte konfidentsiaalset teavet, tagades samal ajal, et ohutusega tegelevad teadlased saaksid võimalikele probleemidele tähelepanu juhtida?

Praegu on avalikkusele teada mõlema poole seisukohad, kuid väidetavate rikkumiste täpseid asjaolusid ei ole sõltumatult kinnitatud.