每經編輯｜程鵬    

印尼與馬來西亞日前相繼宣布，暫時封禁美國企業家埃隆·馬斯克旗下的人工智能聊天機器人“格羅克（Grok）”，因為擔心它被用于生成色情內容。

綜合央視新聞、新華社、澎湃新聞報道，當地時間10日，印度尼西亞通信和數字事務部長表示，由于擔心人工智能會生成色情內容，該國暫時封禁了美國企業家埃隆·馬斯克旗下人工智能企業xAI的聊天機器人“格羅克（Grok）”，成為第一個拒絕訪問該人工智能工具的國家。

印尼通信和數字事務部長10日在一份聲明中表示，此舉對于保護公眾免受人工智能生成的露骨圖像所帶來的危害是必要的，并要求馬斯克旗下的社交媒體X平臺就“格羅克”所引發的負面影響盡快作出說明。

緊隨其后，馬來西亞通訊及多媒體委員會11日發布聲明，暫時禁止該國用戶訪問格羅克，因為格羅克被反復濫用來生成色情內容、露骨的性內容、極度冒犯且不雅的內容，以及在未經同意的情況下生成被操縱的圖像。

馬來西亞律師阿齊拉·阿齊茲告訴媒體記者，若只是出于娛樂目的，“用AI給公眾人物頭像加個墨鏡之類的倒也無可厚非”，但未經當事人同意，“利用AI對婦女兒童實施與性別相關的暴力，必須堅決反對”。

xAI 已將格羅克整合進社交平臺X，X用戶可直接調用該聊天機器人。而印尼是全球X用戶數量第三多的國家。印尼政府在一份聲明中表示，“未經同意的、性化的深度偽造行為嚴重侵犯了公民在數字空間中的人權、尊嚴和安全。

格羅克由馬斯克旗下的人工智能公司xAI 公司開發，去年8月推出AI工具Grok Imagine，可根據文字提示或上傳圖片編輯生成AI圖像，繼而轉化為短視頻內容。近期，X平臺出現部分用戶利用“格羅克”編輯圖片和視頻的現象，一些用戶借此生成真實人物的虛假性暴露內容，并在X平臺上散播，受害者包括數百名成年女性和未成年人。

這一亂象隨即引起公憤。歐盟委員會負責數字經濟事務的發言人托馬斯·雷尼耶5日回應說，正“嚴肅調查”針對“格羅克”的相關投訴。“‘格羅克’推出所謂‘熱辣模式’，不僅展示露骨性內容，部分生成內容還帶有兒童特征。”

他也進一步炮轟稱：“這不是’辣味’，這是違法的。這是令人震驚、令人作嘔的。這就是我們的看法，這樣的內容在歐洲沒有任何立足之地。”

同一天，英國網絡安全監管機構通信管理局表示，注意到用戶對上述功能的擔憂，“已緊急聯系X（平臺）和xAI，以了解它們在履行保護英國用戶的法定義務方面具體采取了哪些措施”，之后將根據回復，判定它們是否存在“值得調查的潛在合規問題”。

據參考消息援引新加坡《聯合早報》網站1月11日報道，英國加大威脅稱，可能因人工智能工具格羅克生成色情圖像而封鎖社交平臺X。對此，馬斯克發文指責英國政府。

負責向執法機構舉報網絡兒童性虐待材料的英國監管機構指出，他們在暗網上發現據稱由格羅克生成的“犯罪”圖片。互聯網觀察基金會說，暗網上涉及未成年女性的色情圖片，已達到執法部門采取行動的標準。

英國首相斯塔默本周早些時候誓言采取行動，要求X平臺就這些色情圖片“立即整頓”。

英國科技大臣肯德爾9日發聲明說，媒體監管機構應動用“全部法律權力”，并警告稱，如果X平臺拒絕遵守英國法律，政府可以“阻止英國境內民眾訪問X平臺”。

懲罰X平臺可能會激怒美國政府，此前美國政府曾威脅要對歐盟等組織采取報復措施，以阻止它們限制美國科技巨頭的權力。

不過，英國副首相戴維·拉米指出，他本周早些時候已與美國副總統萬斯討論過這起事件，萬斯對這項技術的使用方式表示擔憂。

另據印度媒體報道，印度信息技術部2日要求X平臺刪除色情內容、打擊違規用戶，并在72小時內提交“整改報告”，否則將面臨法律制裁。截至目前，尚不清楚X平臺是否已就印方要求作出回應。

多名法國政府部長和國民議會議員2日也向法國司法部門報案。當日晚些時候，巴黎檢方表示，將啟動相關調查。

歐盟委員會發言人托馬斯·雷尼耶1月8日表示，歐盟委員會已責令美國社交媒體平臺X保留其內置聊天機器人“格羅克（Grok）”相關的全部內部文件和數據，直至2026年年底。雷尼耶說，歐盟委員會“嚴肅對待”這一問題，并已決定延長2025年向X平臺發出的“資料保留”要求。該要求此前主要涉及平臺算法相關信息以及非法內容的傳播與擴散情況等。

X平臺于1月4日就相關爭議回應稱，將對平臺上的非法內容采取行動，包括刪除相關內容、永久封禁賬號，并在必要時與當地政府和執法部門合作。馬斯克1月3日發帖表示，任何使用“格羅克”制作非法內容的人，都將面臨與上傳非法內容相同的后果。

另外，為應對批評，xAI于1月9日宣布，將格羅克在社交媒體平臺X上的圖像生成功能，限制為僅向付費訂閱用戶開放。不過，獨立運行的格羅克應用程序仍允許用戶在無需訂閱的情況下生成圖像。

編輯|程鵬 杜恒峰

校對|許紹航

封面圖片來源：視覺中國（資料圖 圖文無關）

每日經濟新聞綜合自央視新聞、新華社、參考消息、澎湃新聞、科創板日報