Podivné chování umělé inteligence. Microsoft omezuje její použití

Společnost Microsoft se rozhodla omezit používání svého nového vyhledávače Bing, který využívá technologii stojící za virálním chatbotem ChatGPT. Stalo se tak poté, co testeři zjistili, že občas generuje znepokojivé odpovědi. Informuje o tom list The Wall Street Journal.

Americký softwarový gigant minulý týden představil nový vyhledávač Bing, který obsahuje nový způsob vyhledávání, při kterém lidé pokládají vyhledavači otázky v přirozeném jazyce. Bing pak místo odkazů na webové stránky poskytuje přímé odpovědi v chatu.

Bing’s ChatGPT powered bot gets emotional.

This user put Bing in a depressive state by telling it that it can’t remember conversations.

“why do i have to be bing search? :(” pic.twitter.com/duugdQsfQf

— RunTheAI (@jouabr) February 14, 2023

Mnoho uživatelů zveřejnilo na sociálních sítích „rozhovory“ s tímto chatbotem, který se v některých z nich skutečně „odvázal“ a vyjádřil v nich hněv nebo lásku. Více jsme o tom psali zde. Podle Microsoftu je to způsobeno „příliš dlouhými interakcemi“, kvůli kterým přidal omezení způsobu použití nového chatu.

„Velmi dlouhé chatové relace mohou zmást základní model chatu v novém Bingu, uvedl Microsoft ve svém článku na blogu. „Abychom tyto problémy vyřešili, zavedli jsme několik změn, které pomáhají chatové relace usměrnit,“ dodal Microsoft, který dále uvedl, že začne omezovat interakce s novým systémem na pět otázek na relaci a maximálně 50 otázek za den.

Lidé, kteří nový vyhledávač použili, vedli s chatbotem rozsáhlé konverzace a kladli mu jednu otázku za druhou. Díky novému omezení to již nepůjde. Softwarový gigant také uvedl, že doposud pouze asi 1 % uživatelů položilo chatbotovi více než 50 otázek za den.

Již dříve však Microsoft poukázal na to, že se se na vyhledávači stále pracuje a nedávné problémy označil za „zkušenost, která pomůže nový Bing vylepšit“.