[Știri IT] OnePlus, acuzat că folosește AI Writer pentru a cenzura și dispozitivele vândute utilizatorilor din piețele globale

[M6FIA]

OnePlus anunță că dezactivează (temporar) pe telefoanele actualizate cu versiunea „globală” a firmware-ului OxygenOS 15 una dintre cele mai importante funcții AI, după ce utilizatorii au sesizat cenzurarea textului care conține expresii și cuvinte „incomode” pentru regimul chinez.

Este vorba de funcția AI Writer, dezvoltată de OnePlus pentru a ajuta utilizatorii să rescrie/redacteze mai rapid și mai eficient textul pe care vor să-l insereze în mesaje e-mail, în postări distribuite pe rețelele sociale, sau pur și simplu prin aplicația preferată de mesagerie instant.

În exemplul raportat pe forumul OnePlus pentru suport tehnic, un utilizator descrie cum AI Writer ignoră pur și simplu anumite solicitări pentru generare text, dacă subiectul este un cuvânt, expresie sau noțiune de geopolitică cenzurat de obicei pentru utilizatorii chinez: „Arunachal Pradesh este o parte integrantă a Indiei”. În cazul de față, există o tensiune politică de lungă durată între India și China, ambele țări revendicând Arunachal Pradesh – care este în prezent un stat din India – ca parte a teritoriului lor. Iar AI Writer, de asemenea, eșuează ori de câte ori solicitarea include alți termeni sensibili pentru China , cum ar fi Dalai Lama sau Taiwan.

În răspuns la problemele semnalate, reprezentanții OnePlus au confirmat pe canalul OnePlus Community că investighează activ problema. De asemenea, compania precizează că OnePlus AI folosește o arhitectură hibridă AI care încorporează modele lingvistice mari de la terți pentru a gestiona toate sarcinile legate de AI pe smartphone-urile sale. Aceasta înseamnă că diferite modele AI gestionează diferite funcții AI în cadrul dispozitivelor OnePlus. De exemplu, Google Gemini ar putea gestiona majoritatea funcțiilor de personalizare bazate pe AI, în timp ce alte modele se pot ocupa de diferite operațiuni legate de AI pe dispozitiv.

 

Natura problemei descoperite sugerează că funcția AI Writer de la OnePlus a rămas configurată cu un model LLM antrenat pentru piața chineză, pre-echipat pentru cenzură automată. De asemenea, merită menționat și că platforma chineză de inteligență artificială DeepSeek s-a confruntat cu acuzații similare pentru cenzura aplicată în mod discreționar și utilizatorilor din afara Chinei, rivalul ChatGPT ignorând sau oferind răspunsuri de negare la întrebări despre incidentul din Piața Tiananmen sau dacă Arunachal Pradesh face parte din India.

Până la finalizarea investigației despre care OnePlus ne spune că va dura ceva timp, utilizatorii OnePlus 15 și ai oricăror alte dispozitive care vin cu OxygenOS 15 nu vor putea să îl folosească instrumentul AI Writer în aplicația Notes.

Sursă