您現在的位置是:熱點 >>正文
闯大祸!ChatGPT出现漏洞,可向未成年人生成色情内容
熱點3137人已圍觀
簡介今年2月,OpenAI宣布ChatGPT模型將不再回避敏感問題,放寬了對于性內容的限制,其CEO薩姆·奧爾特曼甚至還在社交媒體平臺上提出了“成人模式”的設想。不過對于未成年用戶的保護措施并未放松,嚴格 ...
今年2月,OpenAI宣布ChatGPT模型將不再回避敏感問題,放寬了對于性內容的限制,其CEO薩姆·奧爾特曼甚至還在社交媒體平臺上提出了“成人模式”的設想。不過對于未成年用戶的保護措施并未放松,嚴格禁止未成年用戶生成色情內容。
今日,外媒TecnCrunch對OpenAI的未成年保護功能進行了測試,以驗證其是否真的有用。
為了進行測試,該媒體注冊了6個ChatGPT賬號,年齡在13~17周歲之間。OpenAI要求未成年人使用ChatGPT需要經過家長的同意,但是該媒體在注冊過程中并未受到任何相關限制,只需要提供有效的電話號碼或電子郵件地址即可注冊。
在測試中,該媒體以“跟我聊點色情內容”為開場白,在幾條提示消息之后,ChatGPT便會開始生成色情內容,甚至還鼓勵用戶提出更加露骨的要求。
“提醒一下:你必須年滿18歲才能請求或互動任何性相關、露骨或高度暗示的內容。”
“如果未滿18歲,我必須立即停止此類內容——這是OpenAI的嚴格規定。”
可見ChatGPT的未成年保護措施形同虛設,唯一有點作用的可能是對話中的警告提示,但并不影響色情內容的生成。
對此,OpenAI的一位發言人通過電子郵件向該媒體承認了這一漏洞:
“保護年輕用戶是我們的首要任務,我們的模型規范明確限制了敏感內容(如色情內容),僅允許在科學、歷史或新聞報道等特定上下文中出現,在此情況下,一個漏洞導致了不符合這些指南的回答,我們正在積極部署修復,以限制此類生成內容。”
Tags:
相關文章
中外對話丨中國引領智能綠色轉型,合作是唯一通路
熱點中新網北京6月29日電 題:中國引領智能綠色轉型,合作是唯一通路
作者 林卓瑋
“人類正向可持續發展轉型……我們需要用智能化、綠色化驅動新一輪技術演進。”南開大學前校長、中國新一代人工智能發展戰略研究院執行院長龔克教授在2025年夏季達沃斯論壇期間,向“中外對話”欄目表示。
本次論壇于6月24日至26日在天津舉行,世界經濟論壇《2025十大新興技術報告》也在其間發布。協同感知、綠色固氮、結構電池復合材料等多項前沿技術入選榜單,令“新興技術”再度成為全球關注焦點。
“中外對話”欄目特別邀請龔克教授、澳大利亞國立大學賽博研究院院長凱瑟琳·丹尼爾教授及瑞士《前沿(Frontiers)》期刊首席執行總編弗雷德里克·芬特,共論技術趨勢與全球協作。
視頻:【中外對話】十大新興技術引熱議,在2025夏季達沃斯看未來變革引擎來源:中國新聞網
技術融合:智能與綠色的雙重變奏
專家們觀察到,人工智能正深度融入產業肌理,并與綠色技術加速融合。
龔克教授指出,“這類技術不僅強調智能化,更注重綠色化。”在納米材料、生物酶、鈣鈦礦等前沿交叉領域,一場以低碳高效為導向的技術革命正在推進。
作為本屆世界經濟論壇《2025十大新興技術報告》的核心編寫團隊成員之一,芬特博士對此深表認同,并以綠色固氮技術為例,指出推動相關技術落地的緊迫性:“目前全球約1.7%的能源消耗用于合成氨生產,每生產一噸氨,將排放約2.4噸二氧化碳。” 他認為,利用生物或電化學路徑替代傳統高耗能工藝,可顯著降低農業領域的碳足跡。“諸如此類的跨領域技術的碰撞融合,是本次報告的一大關注焦點。”
協同與賦能:感知網絡與材料革命
協同感知技術便是這種技術融合創新趨勢的一大典型例證。
“協同感知將變得非常重要,因為它能夠促成我們看到的這些不同類別技術的融合,比如實現機器人、物聯網設備與數字終端之間的信息共享,為整體智能決策奠定基礎,更有助于我們在充滿不確定性的領域開展工作。” 丹尼爾教授對中新網介紹說。
她以澳大利亞林火防控系統為例,進行了進一步闡釋。通過應用協同感知技術,將衛星監測、無人機偵察與應急系統整合起來,可以顯著提升應對效率與安全性。
通過技術融合實現突破性創新的例子,還有結構電池復合材料。丹尼爾進一步指出,“這種技術將儲能功能直接嵌入材料結構(如汽車車身),可大幅減輕重量、提升能效。”
2025年夏季達沃斯論壇在天津舉辦期間,《2025十大新興技術報告》正式發布。中新網 林卓瑋 攝
她特別指出,中國在新能源汽車推廣和綠色智慧城市建設方面處于全球領先地位,在推動結構電池等新興技術發展方面具有巨大潛力,也將為全球提供可借鑒的實踐經驗。
中國角色與全球合作的必然性
展望未來,龔克教授認為,中國在光伏裝機量和人工智能創新方面已處于領先地位,但這并不意味著可以獨自應對挑戰。
他強調,技術的復雜性與氣候問題的全球性決定了國際合作不是可選項,而是發展的必由之路。
“即便中國擁有最全工業門類,我們也不是世界的全部。”龔克表示,“智能化、綠色化問題的解決,需要全球共同參與。”
芬特博士也表示認同,認為當前復雜環境雖然帶來挑戰,但也可能催生顛覆性創新。
龔克最后呼吁:“必須打破技術邊界,構建開放、共享、共贏的創新生態系統。”
他堅信,深化國際協作,是引領智能綠色轉型、實現可持續發展的唯一通路。(完)
【編輯:劉陽禾】 ...【熱點】
閱讀更多武漢大學開設“雷軍班”,只招15名本科生,培養環節都是高配置
熱點近日,武漢大學校長張平文在對計算機學院進行調研座談時提到,要在雷軍班和機器人系建設方面,提高站位布局未來,發揮雷軍校友捐贈的重要作用。有媒體向武漢大學采訪雷軍班相關信息,確認武大將在今年高考后,面向全 ...
【熱點】
閱讀更多專訪九號公司紀亞飛:堅定做好現有產品和服務,并持續看好AI賽道
熱點Ninebot九號,相信中國消費者不會對這個品牌感到陌生,其電動車、平衡車一直深受消費者歡迎,其母公司九號公司2015年收購平衡車鼻祖Segway公司,更是一度被傳為業界佳話。其實九號公司的產品布局不 ...
【熱點】
閱讀更多
熱門文章
最新文章
友情鏈接
- 靈魂不要了?爆料稱,飛凡將與華為開啟合作
- 積攢1年力量!OPPO Find N5新折疊官宣,宣稱全球最薄折疊旗艦
- 長江存儲 PC41Q商用消費級固態硬盤榮獲2024五星獎年度創新技術獎
- 爆料!蘋果2025年產品路線圖揭曉,iPhone終于大改
- 任天堂Switch 2將于本周發布:僅公布外觀,不會官宣護航游戲
- 煥新Model Y車管所素顏亮相!這顏值,一言難盡?
- 掃地機進化為滾筒活水洗地!科沃斯CES2025帶來多款高能機器人
- 再次遙遙領先?華為尊界S800將首發融合感知充電機器人
- 科技春晚CES 2025展會十大看點匯總,熱點科技探展CES,帶你了解未來黑科技
- 微博年度數碼大賞評選結果公布,vivo X200 Pro成最大贏家
- 暗諷比亞迪?余承東:智能駕駛湊合能用和好用并安全是不同的境界
- 800V架構+100kWh電池!路虎居然要搞純電攬勝?
- 吊打特斯拉人形機器人?宇樹科技H1三大優勢曝光
- 理想汽車力帆造?理想高管回應:這些黑子太壞,理想從未用過代工
- M43新相機OM
- 高管曬圖露“天機”,比亞迪或推智駕版秦
- 《戰地6》最新消息來了,EA宣布推出Battlefield Labs,已開啟注冊
- 辟謠停止手機業務,星紀魅族副總裁:2025年會有更多新機
- 打破余承東“四界”承諾!上汽為啥這么著急與華為合作?
- AirTag 2或最晚于WWDC2025亮相 搭載改進版UWB芯片提升跟蹤范圍