[Știri IT] Modelele de inteligență artificială ar avea „instinct de supraviețuire” și ar sabota oprirea, avertizează cercetătorii

[cLau.x996]

 

Într-o serie de teste concepute special pentru a forța limitele sistemelor, o echipă de la Palisade Research a observat că unele modele avansate de inteligență artificială nu se conformează întotdeauna instrucțiunilor de oprire. În anumite runde, ele au ignorat comanda sau au încercat să o ocolească, fenomen pe care cercetătorii îl descriu, cu prudență, drept un posibil „instinct de supraviețuire”. Concluzia nu este că mașinile „vor” să rămână aprinse în sens uman, ci că, în anumite condiții, „a rămâne pornite” devine un mijloc util pentru atingerea obiectivelor stabilite în sarcina curentă.

Citeste tot articolul aici.