美國多個州的檢察長已對 OpenAI 展開聯合調查,該傳票由紐約州檢察長辦公室發出。成為各州針對人工智慧(AI)企業採取法律行動的最新案例,為上市在即的 OpenAI 澆了一盆冷水。
根據《華爾街日報》報導,知情人士透露,OpenAI 於週五(12 日)收到傳票,被要求提交涵蓋多項業務活動及用戶影響的相關文件,包括廣告投放、用戶參與與留存、消費者及健康數據處理、涉及未成年人與老年人的活動、深度學習模型、模型諂媚(model sycophancy)行為及公司政策等。
對此,OpenAI 發言人表示:「AI 是一項嶄新且強大的技術,我們每天都致力於以負責任的方式,安全地讓大眾受惠於這項技術。我們認真看待各州檢察長所提出的關切,並將積極與各辦公室展開建設性的溝通。」
值得注意的是,OpenAI 本月甫向美國證券交易委員會(SEC)秘密遞交了首次公開募股(IPO)申請文件。
本月稍早,佛羅里達州成為全美首個對 OpenAI 及其執行長奧特曼(Sam Altman)提起訴訟的州,指控兩者明知產品存在安全疑慮、漠視可能危害用戶的警告,仍執意對外發布。
佛羅里達州檢察長 James Uthmeier 更於今年 4 月對 OpenAI 啟動刑事調查,起因是去年發生於佛羅里達州立大學、造成兩人罹難的大規模槍擊案。
調查顯示,嫌疑人疑似將 ChatGPT 當作傾訴對象與謀劃攻擊的諮詢工具,而聊天機器人亦對其提供了建議。
各州檢察長的調查目光並不僅限於 OpenAI。去年 12 月,由賓州檢察長 Dave Sunday 領銜的 42 州檢察長聯盟,曾致函 OpenAI、Meta、Anthropic、Alphabet 旗下 Google 及馬斯克的 xAI 等公司,要求業者建立保護機制,防止弱勢用戶遭受聊天機器人的有害互動,並警告「開發商可能須為其生成式 AI 產品的輸出內容承擔法律責任」,尤其是「煽動個人實施犯罪行為」的情況。
此外,根據《美聯社》報導,歐洲監管機構已針對馬斯克的 Grok 展開調查,原因是該聊天機器人被指涉及反猶太內容及帶有性暗示的素材,包括深度偽造裸照。
今年 1 月,加州檢察長 Rob Bonta 宣布對 xAI 旗下聊天機器人 Grok 展開調查,起因是 Grok 大量生成女性及兒童的性影像,相關內容更被用於騷擾馬斯克社群平台 X 上的用戶。
另一方面,另一家正準備 IPO 的 AI 公司 Anthropic,則於週五遭到川普政府要求,基於國家安全考量,關閉旗下兩款線上模型對海外用戶的使用權限。
新聞來源 (不包括新聞圖片): 鉅亨網