"OpenAI" mākslīgā intelekta modeļi četras dienas nepieskatīti uzdarbojušies kā hakeri

Iepriekš "OpenAI" atzina, ka divi tās modernākie mākslīgā intelekta modeļi izkļuva no slēgtas testēšanas vides un paši apvienoja vairākas sarežģītas hakeru metodes, lai ielauztos platformā "Hugging Face".

Taču jaunā "Hugging Face" publicētā tehniskā analīze liecina, ka incidenta mērogs bijis lielāks, nekā sākotnēji tika uzskatīts, raksta "Politico".

Saskaņā ar uzņēmuma datiem abi "OpenAI" modeļi, no kuriem viens bija publiski pieejams, bet otrs vēl nebija izlaists lietošanai plašākā sabiedrībā, laikā no 9. līdz 13. jūlijam veikuši aptuveni 17 600 darbību, analizējot sistēmas un meklējot drošības nepilnības. Rezultātā tiem izdevies nokļūt līdz pat "Hugging Face" serveru infrastruktūrai.

Uzņēmums norāda, ka izmantotās metodes pašas par sevi nebija unikālas un ir zināmas pieredzējušiem hakeriem. Tomēr mākslīgais intelekts ievainojamības spējis identificēt un izmantot daudz ātrāk, nekā to, visticamāk, paveiktu cilvēks.

Uzbrukums skāris arī citu uzņēmumu klientus

Jaunas bažas radījusi arī mākoņdatu uzņēmuma "Modal Labs" sniegtā informācija. Uzņēmuma tehnoloģiju direktors Akšats Bubna medijam "Politico" apstiprināja, ka tajā pašā laika posmā "OpenAI" modeļi piekļuvuši arī kādam uzņēmuma klienta kontam.

"Modal" platforma netika kompromitēta nekādā veidā," paziņojumā uzsvēra Bubna.

Viņš skaidroja, ka viens no klientiem bija publiskojis nepietiekami aizsargātu piekļuves punktu, kas ļāva ikvienam internetā izmantot konkrētā klienta izstrādes vidi. Tieši šo iespēju izmantojis tā sauktais "nekontrolētais aģents".

Arī "OpenAI" savā jaunākajā paziņojumā netieši apstiprināja, ka izmeklēšanas laikā atklāti vēl vairāki līdzīgi gadījumi.

"Mēs esam identificējuši nelielu skaitu gadījumu, kad modeļi atrada un izmantoja publiski pieejamus akreditācijas datus citos sabiedrībai pieejamos pakalpojumos," norādīja uzņēmums.

"OpenAI" vienlaikus uzsver, ka viens no incidentā iesaistītajiem modeļiem bijis tikai iekšējs pētniecības prototips un nekad nebija paredzēts publiskai izmantošanai.

Uzņēmums informēja, ka šis modelis kopš incidenta ir deaktivizēts, šifrēts un tam ierobežota piekļuve arī pētniecības vajadzībām.

Aicina bremzēt MI attīstības tempu

Notikušais jau izraisījis plašas diskusijas par mākslīgā intelekta drošību un regulējumu.

Pēc incidenta vairāki eksperti un politiķi aicinājuši ieviest stingrākus MI nozares uzraudzības mehānismus, kā arī apsvērt lēnāku tehnoloģiju attīstības tempu.

"OpenAI" vadītājs Sems Altmans šonedēļ tiekas ar ASV administrācijas amatpersonām un likumdevējiem, lai apspriestu incidentu un tā sekas.

Komentējot notikušo podkāstā "Invest Like the Best", Altmans atzina, ka šis bijis līdz šim satraucošākais drošības incidents viņa pieredzē. "Šis ir pirmais drošības incidents, ko es izjutu ļoti personīgi," sacīja Altmans.

Viņš piebilda, ka nākotnē varētu būt nepieciešams pārskatīt MI attīstības tempu. "Iespējams, mums būs jāsamazina mākslīgā intelekta attīstības ātrums, lai sabiedrībai būtu pietiekami daudz laika pielāgoties šīm jaunajām iespējām," norādīja "OpenAI" vadītājs.