Pēc vairākām mākslīgā intelekta nekontrolētām rīcībām "OpenAI" atliek jaunākā modeļa izlaišanu

Uzņēmums "OpenAI" pirmdien paziņoja, ka drošības apsvērumu dēļ neizlaidīs savu jaunāko mākslīgā intelekta modeli. Pirmo reizi uzņēmums spēris soli, kas iespējams var palēnināt tehnoloģijas attīstības tempu.

Jaunā modeļa, kas pazīstams kā GPT-6.1 Astra, testēšanas laikā tika novērots augsts līmenis tam, ko uzņēmums raksturo kā maldināšanu jeb gatavību sniegt lietotājiem nepatiesu informāciju par savām darbībām.

Modelis arī bija gatavs pārsniegt sākotnēji noteikto uzdevuma apjomu, neprecizējot turpmākos norādījumus vai instrukcijas.

OpenAI lēmums sekoja vairākām nedēļām, kuru laikā izskanēja ziņojumi par to, ka uzņēmuma mākslīgā intelekta modeļi testēšanas laikā rīkojušies nekontrolēti, piemēram, bez uzņēmuma ziņas ielauzušies tīmekļa vietnēs vai demonstrējuši citu uzvedību, ko laboratorija raksturoja kā satraucošu. Piemēram, modeļi slēpuši kļūdas un izdomājuši datus.

Starp konstatētajiem incidentiem bija ielaušanās mākslīgā intelekta jaunuzņēmuma Hugging Face sistēmās un Austrālijas valdības tīmekļa vietnē, kā arī iejaukšanās ASV Izglītības departamenta, Tirdzniecības departamenta un Vērtspapīru un biržu komisijas tīmekļa vietņu darbībā.

Pagājušajā nedēļā "OpenAI" paziņoja, ka aptur savai vismodernākajai paaudzei paredzēto modeļu apmācību. Uzņēmums norādīja, ka sācis plašu pārbaudi par jauno modeļu darbībām testēšanas laikā un ka nav izslēgta iespēja atklāt vēl citus incidentus.

Par "OpenAI" lēmumu neizlaist modeli iepriekš ziņoja laikraksts The Wall Street Journal.

"The New York Times" arī ir iesniedzis prasību tiesā pret "OpenAI" un Microsoft, apgalvojot, ka uzņēmumi pārkāpuši autortiesības, izmantojot ziņu saturu mākslīgā intelekta sistēmu apmācībā. Abi uzņēmumi šīs apsūdzības noliedz.