"Meta" brīdinās vecākus par satraucošām pusaudžu sarunām ar mākslīgo intelektu

Kā norāda "Meta", šim mērķim izstrādāta īpaša mākslīgā intelekta sistēma, kas spēj identificēt gadījumus, kad pusaudzis tieši runā par vēlmi nodarīt sev kaitējumu.

"Visas šādas sarunas pirms paziņojuma nosūtīšanas tiek pārskatītas manuāli," uzsver uzņēmums. "Meta" norāda, ka gadījumos, kad risku nav iespējams viennozīmīgi izvērtēt, priekšroka tiks dota piesardzībai un vecāki var saņemt brīdinājumu arī tad, ja draudi nav pilnībā apstiprināti.

Patlaban jaunā funkcija pieejama tiem "Instagram" lietotājiem ASV, Lielbritānijā, Austrālijā un Kanādā, kuri izmanto vecāku uzraudzības rīkus. Uzņēmums sola līdz gada beigām šo iespēju pakāpeniski ieviest arī citās valstīs, raksta "Ukrainska Pravda".

Jaunievedums papildina jau esošās drošības funkcijas. Jau šobrīd vecāki var saņemt paziņojumus, ja viņu bērni atkārtoti meklē informāciju par paškaitējumu vai pašnāvību "Instagram" platformā. Tāpat vecākiem ir iespēja pārskatīt tematus, kurus pusaudži pēdējās nedēļas laikā apsprieduši ar "Meta AI".

"Meta" paplašinājusi arī funkcijas "Sensitive Content Control" darbību. Līdz šim tā attiecās uz "Instagram" saturu, bet tagad tā piemērota arī sarunām ar "Meta AI".

Uzņēmums norāda, ka čatbots jau iepriekš tika ierobežots attiecībā uz seksuāla vai romantiska rakstura sarunām ar nepilngadīgajiem, kā arī diskusijām par alkoholu. Tagad aizliegto vai ierobežoto tēmu loks paplašināts, lai mākslīgais intelekts atteiktos sniegt atbildes uz vēl plašāku nevēlama satura klāstu.

"Meta" arī paziņojusi, ka iespēja sazināties ar neatliekamajiem dienestiem nākotnē varētu attiekties ne tikai uz nepilngadīgajiem. Uzņēmums norāda, ka līdzīgs modelis jau tiek izmantots "Facebook" un "Instagram" publikāciju izvērtēšanā, ja tajās saskatāmas pazīmes par iespējamu apdraudējumu cilvēka dzīvībai, un tagad šādu pieeju plānots attiecināt arī uz sarunām ar "Meta AI".