近日，來自西安的一位向姓律師通過社交平臺(tái)分享了一起特殊的春節(jié)經(jīng)歷。他在使用“元寶”AI應(yīng)用生成個(gè)人拜年海報(bào)時(shí)，意外發(fā)現(xiàn)生成的海報(bào)上出現(xiàn)了辱罵性的臟話。這一事件經(jīng)媒體報(bào)道后，在網(wǎng)絡(luò)上迅速引發(fā)了公眾的關(guān)注與討論。
向律師表示，在除夕當(dāng)天，他看到許多朋友在微信朋友圈發(fā)布的內(nèi)容都帶有金色邊框特效，并了解到這是通過“元寶”App發(fā)布朋友圈實(shí)現(xiàn)的視覺效果。出于好奇，他下載了該應(yīng)用進(jìn)行嘗試。他希望能結(jié)合法律行業(yè)的特征，用自己的個(gè)人形象照定制一張適合朋友圈分享的拜年圖片。
在生成海報(bào)的互動(dòng)過程中，向律師對(duì)最初的設(shè)計(jì)并不滿意，因此提出了“你這是設(shè)計(jì)的什么鬼”等反饋。在隨后的重新生成中，他發(fā)現(xiàn)新海報(bào)的視覺元素雖與前一張完全一致，但原本“新年快樂，仕途順?biāo)?rdquo;的祝福語，竟被替換成了不文明的臟話。這一異常情況引起了向律師的警覺，并將此事公開分享。針對(duì)此次事件，騰訊方面于2月25日回應(yīng)稱，經(jīng)過核查，這是由于模型在多輪對(duì)話交互中產(chǎn)生的非正常輸出結(jié)果。目前，“元寶”團(tuán)隊(duì)已迅速采取措施，校正相關(guān)問題并優(yōu)化用戶體驗(yàn)。團(tuán)隊(duì)對(duì)公眾的監(jiān)督與建議表示感謝，并正式向受影響用戶作出誠(chéng)懇道歉。
浙公網(wǎng)安備 33010502007447號(hào)