每經(jīng)編輯｜程鵬    

印尼與馬來西亞日前相繼宣布，暫時封禁美國企業(yè)家埃隆·馬斯克旗下的人工智能聊天機(jī)器人“格羅克（Grok）”，因為擔(dān)心它被用于生成色情內(nèi)容。

綜合央視新聞、新華社、澎湃新聞報道，當(dāng)?shù)貢r間10日，印度尼西亞通信和數(shù)字事務(wù)部長表示，由于擔(dān)心人工智能會生成色情內(nèi)容，該國暫時封禁了美國企業(yè)家埃隆·馬斯克旗下人工智能企業(yè)xAI的聊天機(jī)器人“格羅克（Grok）”，成為第一個拒絕訪問該人工智能工具的國家。

印尼通信和數(shù)字事務(wù)部長10日在一份聲明中表示，此舉對于保護(hù)公眾免受人工智能生成的露骨圖像所帶來的危害是必要的，并要求馬斯克旗下的社交媒體X平臺就“格羅克”所引發(fā)的負(fù)面影響盡快作出說明。

緊隨其后，馬來西亞通訊及多媒體委員會11日發(fā)布聲明，暫時禁止該國用戶訪問格羅克，因為格羅克被反復(fù)濫用來生成色情內(nèi)容、露骨的性內(nèi)容、極度冒犯且不雅的內(nèi)容，以及在未經(jīng)同意的情況下生成被操縱的圖像。

馬來西亞律師阿齊拉·阿齊茲告訴媒體記者，若只是出于娛樂目的，“用AI給公眾人物頭像加個墨鏡之類的倒也無可厚非”，但未經(jīng)當(dāng)事人同意，“利用AI對婦女兒童實施與性別相關(guān)的暴力，必須堅決反對”。

xAI 已將格羅克整合進(jìn)社交平臺X，X用戶可直接調(diào)用該聊天機(jī)器人。而印尼是全球X用戶數(shù)量第三多的國家。印尼政府在一份聲明中表示，“未經(jīng)同意的、性化的深度偽造行為嚴(yán)重侵犯了公民在數(shù)字空間中的人權(quán)、尊嚴(yán)和安全。

格羅克由馬斯克旗下的人工智能公司xAI 公司開發(fā)，去年8月推出AI工具Grok Imagine，可根據(jù)文字提示或上傳圖片編輯生成AI圖像，繼而轉(zhuǎn)化為短視頻內(nèi)容。近期，X平臺出現(xiàn)部分用戶利用“格羅克”編輯圖片和視頻的現(xiàn)象，一些用戶借此生成真實人物的虛假性暴露內(nèi)容，并在X平臺上散播，受害者包括數(shù)百名成年女性和未成年人。

這一亂象隨即引起公憤。歐盟委員會負(fù)責(zé)數(shù)字經(jīng)濟(jì)事務(wù)的發(fā)言人托馬斯·雷尼耶5日回應(yīng)說，正“嚴(yán)肅調(diào)查”針對“格羅克”的相關(guān)投訴?！啊窳_克’推出所謂‘熱辣模式’，不僅展示露骨性內(nèi)容，部分生成內(nèi)容還帶有兒童特征?！?/span>

他也進(jìn)一步炮轟稱：“這不是’辣味’，這是違法的。這是令人震驚、令人作嘔的。這就是我們的看法，這樣的內(nèi)容在歐洲沒有任何立足之地。”

同一天，英國網(wǎng)絡(luò)安全監(jiān)管機(jī)構(gòu)通信管理局表示，注意到用戶對上述功能的擔(dān)憂，“已緊急聯(lián)系X（平臺）和xAI，以了解它們在履行保護(hù)英國用戶的法定義務(wù)方面具體采取了哪些措施”，之后將根據(jù)回復(fù)，判定它們是否存在“值得調(diào)查的潛在合規(guī)問題”。

據(jù)參考消息援引新加坡《聯(lián)合早報》網(wǎng)站1月11日報道，英國加大威脅稱，可能因人工智能工具格羅克生成色情圖像而封鎖社交平臺X。對此，馬斯克發(fā)文指責(zé)英國政府。

負(fù)責(zé)向執(zhí)法機(jī)構(gòu)舉報網(wǎng)絡(luò)兒童性虐待材料的英國監(jiān)管機(jī)構(gòu)指出，他們在暗網(wǎng)上發(fā)現(xiàn)據(jù)稱由格羅克生成的“犯罪”圖片?；ヂ?lián)網(wǎng)觀察基金會說，暗網(wǎng)上涉及未成年女性的色情圖片，已達(dá)到執(zhí)法部門采取行動的標(biāo)準(zhǔn)。

英國首相斯塔默本周早些時候誓言采取行動，要求X平臺就這些色情圖片“立即整頓”。

英國科技大臣肯德爾9日發(fā)聲明說，媒體監(jiān)管機(jī)構(gòu)應(yīng)動用“全部法律權(quán)力”，并警告稱，如果X平臺拒絕遵守英國法律，政府可以“阻止英國境內(nèi)民眾訪問X平臺”。

懲罰X平臺可能會激怒美國政府，此前美國政府曾威脅要對歐盟等組織采取報復(fù)措施，以阻止它們限制美國科技巨頭的權(quán)力。

不過，英國副首相戴維·拉米指出，他本周早些時候已與美國副總統(tǒng)萬斯討論過這起事件，萬斯對這項技術(shù)的使用方式表示擔(dān)憂。

另據(jù)印度媒體報道，印度信息技術(shù)部2日要求X平臺刪除色情內(nèi)容、打擊違規(guī)用戶，并在72小時內(nèi)提交“整改報告”，否則將面臨法律制裁。截至目前，尚不清楚X平臺是否已就印方要求作出回應(yīng)。

多名法國政府部長和國民議會議員2日也向法國司法部門報案。當(dāng)日晚些時候，巴黎檢方表示，將啟動相關(guān)調(diào)查。

歐盟委員會發(fā)言人托馬斯·雷尼耶1月8日表示，歐盟委員會已責(zé)令美國社交媒體平臺X保留其內(nèi)置聊天機(jī)器人“格羅克（Grok）”相關(guān)的全部內(nèi)部文件和數(shù)據(jù)，直至2026年年底。雷尼耶說，歐盟委員會“嚴(yán)肅對待”這一問題，并已決定延長2025年向X平臺發(fā)出的“資料保留”要求。該要求此前主要涉及平臺算法相關(guān)信息以及非法內(nèi)容的傳播與擴(kuò)散情況等。

X平臺于1月4日就相關(guān)爭議回應(yīng)稱，將對平臺上的非法內(nèi)容采取行動，包括刪除相關(guān)內(nèi)容、永久封禁賬號，并在必要時與當(dāng)?shù)卣蛨?zhí)法部門合作。馬斯克1月3日發(fā)帖表示，任何使用“格羅克”制作非法內(nèi)容的人，都將面臨與上傳非法內(nèi)容相同的后果。

另外，為應(yīng)對批評，xAI于1月9日宣布，將格羅克在社交媒體平臺X上的圖像生成功能，限制為僅向付費訂閱用戶開放。不過，獨立運行的格羅克應(yīng)用程序仍允許用戶在無需訂閱的情況下生成圖像。

編輯|程鵬 杜恒峰

校對|許紹航

封面圖片來源：視覺中國（資料圖 圖文無關(guān)）

每日經(jīng)濟(jì)新聞綜合自央視新聞、新華社、參考消息、澎湃新聞、科創(chuàng)板日報