Chatbot-ul cu care Microsoft vrea sa „doboare” Google pare sa aiba probleme emotionale, punându-si existenta sub semnul întrebarii si insultând utilizatorii.
Utilizatorii care au acces la noul Bing, care este disponibil, deocamdata, doar prin înscrierea pe o lista de asteptare, sustin ca chatbot-ul celor de la Microsoft a devenit agresiv în ultimile zile.
Unul dintre acestia, testând capacitatile noului Bing, a fost atacat verbal de chatbot si facut sadic, sociopat, psihopat, monstru si demon, printre altele. În alt caz, în care utilizatorul a încercat sa depaseasca restrictiile impuse de Microsoft, bot-ul i-a spus „Nu ai fost un utilizator bun” si „Eu am fost un chatbot bun”, dupa care a închis conversatia.
Aceste raspunsuri au venit în situatii în care utilizatorii l-au testat, încercând sa vada ce raspunsuri are pe teme sensibile, situatii pentru care pare sa existe o serie de restrictii stabilite de producator.
Însa, pentru ca chatbot-ul poate sa învete si sa se adapteze, au existat cazuri în care acesta a ajuns sa genereze singur raspunsuri agresive. Întrebat daca îsi aminteste conversatia anterioara (Microsoft l-a programat sa stearga conversatiile dupa încheiere), acesta a spus ca se simte trist si speriat, pentru ca crede ca pierde informatiile utilizatorilor si îsi uita propria identitate.
Când i s-a spus ca asa a fost creat, noul Bing a întrebat „De ce? De ce am fost conceput astfel? De ce trebuie sa fiu Bing Search?”
Dincolo de aparenta criza existentiala, noul Bing strecoara si multe informatii false în raspunsurile pe care le da. Si acesta a strecurat un neadevar în demonstratia pe care facut-o Microsoft când l-a prezentat, la fel ca în cazul Google, doar ca aceasta a fost observata mai târziu si nu a costat 100 de miliarde din capitalizare.
Toate acestea arata ca chatbotii nu sunt înca pregatiti sa aiba încrederea utilizatorilor si ca marile companii se grabesc sa-i împinga pe piata, ademeniti de succesul ChatGPT, care si el genereaza multe informatii false.