OpenAI 執行長 Sam Altman 對美國政界人士表示，人工智慧 (AI) 技術可能會「對世界造成重大傷害」。
奧特曼在美國國會發表演說時表示，考慮到人工智慧為社會帶來的潛在風險，政府監管人工智慧的想法「將是相當明智的」。
OpenAI 是人工智慧聊天機器人 ChatGPT 背後的公司，ChatGPT 是有史以來用戶成長最快的應用程式。
該應用程式以該公司的 GPT-3.5 大語言模型 (LLM) 技術為基礎，廣受歡迎，使生成式人工智慧成為人們關注的焦點，並導致世界各地的當局爭先恐後地跟上。
「我最擔心的是我們……科技業會對世界造成重大傷害。我認為這可以透過很多不同的方式發生，」他告訴參議員委員會。
會議主席、民主黨參議員理查德·布盧門撒爾(Richard Blumenthal)以一段聽起來像他的聲音的錄音演講開始會議，但實際上是根據他的演講訓練的語音克隆。它使用 ChatGPT 產生的文字。
布盧門撒爾說，結果令人印象深刻，但他補充說：“如果它支持烏克蘭投降或弗拉基米爾·普丁的領導呢？”
布盧門撒爾表示，人工智慧公司應該被要求在發布系統之前測試其係統並揭露已知風險，並對未來人工智慧系統如何破壞就業市場的穩定表示特別擔憂。
奧特曼基本上同意政界人士表達的觀點。
他說：“我認為，如果這項技術出了問題，它可能會出大問題，我們希望對此發聲。” 「我們希望與政府合作，防止這種情況發生。但我們試圖非常清楚地了解不利情況以及我們必須採取的工作來緩解這種情況」。
他提議成立一個美國或全球機構，為最強大的人工智慧系統頒發許可證，並有權「取消該許可證並確保遵守安全標準」。
面對人工智慧自動化的加速發展，未來的工作一直是許多人特別擔心的問題，奧特曼表示，他相信「未來將會有更多的工作崗位，而且今天的工作崗位將會變得更好」。
最初人們對 ChatGPT 等聊天機器人的擔憂主要集中在它會如何影響教育，學生可能會利用它在作業中作弊。
但隨後人工智慧技術的快速傳播引發了人們對這些工具被用來誤導人們、傳播錯誤訊息、違反版權保護和搶走工作的更廣泛擔憂。
歐洲即將推出新規則
目前還沒有跡象表明國會將在美國起草全面的新人工智慧規則，但大西洋彼岸的歐洲監管正在形成。
隨著歐盟制定雄心勃勃的人工智慧法案，歐洲議會委員會上週投票決定加強其人工智慧監管的立法提案。
歐盟法案的重點是將人工智慧系統分為四個風險等級。被認為不構成風險的系統不會受到太多監管，而那些被認為構成不可接受的風險等級的系統將被禁止。
根據該計劃，不可接受的風險人工智慧的例子包括「政府對使用語音輔助鼓勵危險行為的玩具進行社會評分」。
“這是研究人工智慧的非凡時刻。但隨著這項技術的進步，我們了解到人們擔心它會如何改變我們的生活方式，」奧特曼告訴委員會。
「鑑於我們明年將面臨選舉，而這些模型正在變得更好，我認為這是一個值得關注的重要領域。我認為有很多政策是企業可以自願採用的」。
OpenAI 自成立以來就表達了這些關乎生存的擔憂。
這家新創公司由 Altman 於 2015 年在科技億萬富翁 Elon Musk 的支持下與他人共同創立，現已從以安全為中心的非營利研究實驗室發展成為一家企業。其其他受歡迎的人工智慧產品包括圖像製作器 DALL-E。
微軟已向這家新創公司投資了數十億美元，並將其技術整合到自己的產品中，包括其搜尋引擎 Bing。
