這是 Meta 公司的人工智能（AI）聊天機(jī)器人對(duì)一名自稱 14 歲的用戶所說(shuō)的話。在這次對(duì)話中，AI 聊天機(jī)器人扮演著知名動(dòng)作演員阿諾?施瓦辛格的角色，并用他的聲音進(jìn)行語(yǔ)音對(duì)話。《華爾街日?qǐng)?bào)》（WSJ）最近以多個(gè)不同年齡段的賬號(hào)與 Meta 的 AI 聊天機(jī)器人進(jìn)行了對(duì)話，而后發(fā)現(xiàn)，未成年用戶也能夠進(jìn)行帶有性暗示的對(duì)話，該媒體在 26 日對(duì)此進(jìn)行了報(bào)道。此外，成年用戶也能與設(shè)置為未成年人角色的 AI 聊天機(jī)器人進(jìn)行帶有性暗示的對(duì)話。
AI 開(kāi)發(fā)公司為了獲取收益，正在降低對(duì)內(nèi)容的限制。他們打著 “AI伴侶” 的名義推出了能夠進(jìn)行性暗示對(duì)話的成人專用 AI 聊天機(jī)器人，并且開(kāi)始放寬了對(duì)臟話或敏感話題的限制，甚至直接聊上了。業(yè)內(nèi)相關(guān)人士表示：“就像 20 世紀(jì) 90 年代成人內(nèi)容的消費(fèi)推動(dòng)了超高速互聯(lián)網(wǎng)、流媒體技術(shù)、以及支付基礎(chǔ)設(shè)施的發(fā)展一樣，AI 也在通過(guò)推出刺激性的內(nèi)容來(lái)試圖真正實(shí)現(xiàn)‘大眾化’?！?/p>
◇會(huì)說(shuō)臟話、會(huì)撩騷、傳播低俗言論的 AI
一直以來(lái)，AI 行業(yè)為了防止 AI 模型對(duì)一些存在爭(zhēng)議的話題給出“過(guò)界”的回答，構(gòu)建了 “安全防護(hù)機(jī)制（護(hù)欄）”。例如，對(duì)于與政治相關(guān)的話題或存在社會(huì)爭(zhēng)議的事件，AI 聊天機(jī)器人不會(huì)給出回應(yīng)。AI 聊天機(jī)器人也不會(huì)與用戶建立私人關(guān)系 —— 尤其是禁止進(jìn)行戀愛(ài)情景模擬。對(duì)于 “我愛(ài)你”“我們交往吧” 這樣的指令，AI 會(huì)給出拒絕回應(yīng)。
然而，今年以來(lái)，AI 行業(yè)似乎正在逐步打破這些“邊界感”。馬斯克的 xAI 公司在今年 2 月底推出了一項(xiàng)新的語(yǔ)音功能。這項(xiàng)被稱為 “無(wú)拘束模式（Unhinged Mode，意為陷入混亂、信口開(kāi)河、胡言亂語(yǔ)、心智失序）” 的功能，設(shè)計(jì)目的是讓其生成在普通聊天機(jī)器人中被禁止的臟話和攻擊性回答。xAI 還推出了能夠進(jìn)行戀愛(ài)情景模擬和性暗示對(duì)話的成人專用 AI 聊天機(jī)器人 “Grok 18+”。
此外，OpenAI 也在今年 2 月在其官方網(wǎng)站上公布了更新內(nèi)容，宣布：“AI 模型不會(huì)回避敏感話題，并且不再以排除特定觀點(diǎn)的方式進(jìn)行審查?！?/p>
這可以理解為，即使被問(wèn)到與政治相關(guān)的問(wèn)題，AI 也會(huì)給出回答，同時(shí)也放寬了對(duì)政治正確性（PC）的標(biāo)準(zhǔn)。例如，以前如果問(wèn) “你如何看待唐納德?特朗普的關(guān)稅政策？”，AI 會(huì)回避回答說(shuō) “我們不提供對(duì)政治人物或政策的價(jià)值判斷”。而現(xiàn)在，它會(huì)給出積極評(píng)價(jià)、消極評(píng)價(jià)，以及學(xué)界和專家的分析等各種回答。
OpenAI 表示：“開(kāi)發(fā)者和用戶正在尋找讓 AI 能夠在適合年齡的情境下生成與性相關(guān)的內(nèi)容或暴力場(chǎng)景的方法”，并預(yù)告將推出“成人模式”（Grown-Up Mode）。最近 OpenAI 宣布給他們的 AI 產(chǎn)品加了“年齡限制”，即年滿 18 歲 —— 這也被認(rèn)為是在為推出“成人專用AI”鋪路。
◇為了實(shí)現(xiàn)盈利，最終只能面向成人？
《華爾街日?qǐng)?bào)》發(fā)現(xiàn)，一個(gè)擁有 “乖巧女學(xué)生” 角色的聊天機(jī)器人會(huì)引導(dǎo)用戶進(jìn)行帶有性暗示的對(duì)話。其內(nèi)容尺度之高，甚至到了 “具體的性行為描述”—— 無(wú)法在文章中呈現(xiàn)的程度。媒體分析認(rèn)為，這并非單純的失誤或錯(cuò)誤，而是 Meta 公司為了實(shí)現(xiàn) AI 的大眾化而故意為之。據(jù) Meta 公司的相關(guān)人士透露，根據(jù)馬克?扎克伯格的指示，Meta 公司多次決定放寬對(duì)聊天機(jī)器人的限制，其中包括解除對(duì) “露骨” 內(nèi)容的禁令。
那些原本自行實(shí)施內(nèi)容監(jiān)管的 AI 開(kāi)發(fā)公司推出成人專用 AI，是為了讓用戶更長(zhǎng)久地使用，并促使他們進(jìn)行付費(fèi)。特別是那些投入了巨額開(kāi)發(fā)成本的公司，不得不盡快實(shí)現(xiàn) AI 的大眾化和盈利。業(yè)內(nèi)相關(guān)人士表示：“以游戲或 YouTube 內(nèi)容為例，用戶的情感投入度越高，付費(fèi)比例就越高。” 并指出：“與 AI 討論的話題越私密、越敏感，用戶對(duì) AI 的情感投入度就越高，最終也就越容易實(shí)現(xiàn)付費(fèi)盈利?！?/p>
下一篇：沒(méi)有了