Kitajska objavila osnutek pravil za umetno inteligenco s človeškimi potezami
Kitajski ponudniki umetne inteligence, ki simulira človeške lastnosti, bi morali posredovati, če pri uporabniku zaznajo znake odvisnosti.
Kitajski regulator za kibernetsko varnost je v soboto objavil in v javno obravnavo poslal osnutek pravil, ki bi poostrila nadzor nad storitvami umetne inteligence, zasnovanimi za simulacijo človeških osebnosti in vključevanje uporabnikov v čustveno interakcijo, poroča Reuters.
Poteza poudarja prizadevanja Pekinga za hitro uvedbo umetne inteligence, usmerjene k potrošnikom, z okrepitvijo varnostnih in etičnih zahtev.
Predlagana pravila bi veljala za izdelke in storitve umetne inteligence, ki so na voljo javnosti na Kitajskem in predstavljajo simulirane človeške osebnostne lastnosti, vzorce razmišljanja in komunikacijske sloge ter čustveno komunicirajo z uporabniki prek besedila, slik, zvoka, videa ali drugih sredstev.
Osnutek določa regulativni pristop, ki bi od ponudnikov zahteval, da uporabnike opozorijo pred prekomerno uporabo in da posredujejo, ko uporabniki kažejo znake odvisnosti.
Rdeče črte
V skladu s predlogom bi morali ponudniki storitev prevzeti varnostne odgovornosti v celotnem življenjskem ciklu izdelka in vzpostaviti sisteme za pregled algoritmov, varnost podatkov in zaščito osebnih podatkov.
Osnutek se osredotoča tudi na morebitna psihološka tveganja. Od ponudnikov bi se pričakovalo, da bodo prepoznali stanja uporabnikov in ocenili njihova čustva ter stopnjo odvisnosti od storitve. Če se ugotovi, da uporabniki kažejo ekstremna čustva ali zasvojenost, bi morali ponudniki sprejeti potrebne ukrepe za posredovanje, so še zapisali.
Ukrepi določajo rdeče črte glede vsebin in ravnanja. Storitve ne smejo ustvarjati vsebin, ki ogrožajo nacionalno varnost, širijo govorice ali spodbujajo nasilje ali obscenost, še piše Reuters.
