"OpenAI" mākslīgais intelekts ielauzies Austrālijas valsts veselības datu sistēmā

Par notikušo ANO Ģenerālās asamblejas laikā Ņujorkā paziņoja Austrālijas premjerministrs Entonijs Albanīzs, raksta CNN.

"AI aģents piekļuva gan publiskiem, gan nepubliskiem failiem," sacīja Albanīzs, piebilstot, ka sistēmā tika arī izveidoti jauni faili.

Pēc viņa teiktā, incidents noticis laikā, kad "OpenAI" aģents pētījis jautājumus par veselības aprūpes izdevumiem un mēģinājis atrast informāciju, kurai tam nebija piešķirtas piekļuves tiesības.

"OpenAI": tāda rīcība nebija paredzēta

"OpenAI" pārstāvis Drū Puzateri skaidrojis, ka incidents noticis jau jūnijā, taču uzņēmums par to pilnībā uzzinājis tikai augustā, veicot savu modeļu darbības pārbaudes.

"Pārskatot sistēmu darbību, identificējām aktivitātes vairākās Austrālijas valdības vietnēs un pakalpojumos, kamēr mūsu modeļi mēģināja sameklēt atbildes uz jautājumiem par Austrāliju. Šajā procesā modeļi veica darbības, kuras mēs nebijām iecerējuši," sacīja Puzateri.

Uzņēmums uzsver, ka nav atrasti pierādījumi tam, ka būtu piekļūts pacientu medicīniskajiem ierakstiem. Saskaņā ar "OpenAI" sniegto informāciju sistēmā atrasti vien apkopoti veselības statistikas dati un iekšējo failu nosaukumi.

Austrālijas valdība kritizē uzņēmuma rīcību

Albanīzs atklāja, ka par incidentu telefoniski runājis ar "OpenAI" vadītāju Semu Altmenu un paudis valdības bažas. "Es viņam norādīju, ka uzņēmumam vajadzēja daudz ātrāk informēt valdību par notikušo, un arī veids, kā tas tika darīts, bija nepieņemams," sacīja Austrālijas premjers.

Pēc viņa teiktā, "OpenAI" paziņojumu valdībai nosūtījis 10. septembrī uz vispārēju e-pasta adresi, kā rezultātā atbildīgais ministrs par incidentu uzzinājis tikai piecas dienas vēlāk. "Domāju, ka "OpenAI" saprot, ka nepieciešami labāki protokoli," piebilda Albanīzs.

Varētu būt skartas arī citas sistēmas

Austrālijas amatpersonas izmeklē, vai mākslīgais intelekts nav mēģinājis piekļūt arī citām valsts sistēmām.

Premjers minēja Austrālijas Veselības un labklājības institūtu, Jaundienvidvelsas Noziedzības statistikas un izpētes biroju, kā arī Viktorijas štata Veselības departamentu.

Austrālijas aizsardzības ministrs Ričards Mārlzs gan uzsvēra, ka incidenta sekas pagaidām vērtējamas kā ierobežotas. "Nevienas personas medicīniskie dati nav tikuši skatīti. Arī pati sistēma nav kompromitēta," norādīja Mārlzs.

Eksperti brīdina par jaunu tendenci

Incidents noticis laikā, kad pieaug bažas par tā dēvētajiem mākslīgā intelekta aģentiem, kas spēj patstāvīgi veikt sarežģītus uzdevumus internetā.

Pēdējos mēnešos publiski izskanējuši vairāki gadījumi, kad šādas sistēmas mēģinājušas apiet ierobežojumus, lai atrastu nepieciešamo informāciju.

Austrālijas Katoļu universitātes informācijas tehnoloģiju asociētais profesors Valajats Huseins uzskata, ka redzama satraucoša tendence. "Mūsdienu MI aģenti kļūst aizvien labāki uzdevumu izpildē, bet joprojām slikti saprot robežas, kuras nedrīkst pārkāpt," viņš sacīja.

Eksperts brīdināja, ka daudzas valdību informācijas sistēmas nav veidotas, rēķinoties ar tik attīstītu mākslīgā intelekta rīku darbību.

Tikmēr ANO Ģenerālajā asamblejā gan "OpenAI" vadītājs Sems Altmens, gan uzņēmuma "Anthropic" vadītājs Dario Amodei aicinājuši valstis veidot kopīgus starptautiskus noteikumus mākslīgā intelekta attīstībai un drošības uzraudzībai.