加州州長加文·紐瑟姆否決具有里程碑意義的法案旨在為大型人工智慧（AI）模型建立全國首個安全措施，但遭到多家科技公司的反對。
週日的決定對試圖控製本土行業的努力是一個重大打擊，該行業在缺乏監督的情況下迅速發展。
帳單支持者表示，該法案將在全國範圍內制定一些關於大規模人工智慧模型的首批法規，並為全國範圍內的人工智慧安全法規鋪平道路。
本月早些時候，這位民主黨州長在由軟體巨頭Salesforce 主辦的Dreamforce 年度會議上對觀眾表示，面對聯邦政府的不作為，加州必須在人工智慧監管方面發揮帶頭作用，但該提案「可能會對產業產生寒蟬效應」。
紐瑟姆表示，該提案引起了新創公司、科技巨頭和幾位民主黨眾議院議員的強烈反對，可能會因為制定嚴格的要求而損害本土產業。
替代計劃
紐瑟姆週日宣布，該州將與包括人工智慧先驅李飛飛在內的幾位行業專家合作，圍繞強大的人工智慧模式開發護欄。李反對人工智慧安全提案。
該措施旨在減少人工智慧帶來的潛在風險，要求公司測試其模型並公開披露其安全協議，以防止模型被操縱，例如摧毀國家電網或幫助製造化學武器。
專家表示，隨著該行業繼續快速發展，這些情況在未來可能是可能的。它還將為工人提供舉報人保護。
該法案的作者、民主黨州參議員斯科特·韋納稱，否決權「對所有相信對大型企業進行監督的人來說是一次挫折，這些企業正在做出影響公眾安全和福祉以及地球未來的關鍵決策」。
「開發先進人工智慧系統的公司承認，這些模型給公眾帶來的風險是真實存在的，而且正在迅速增加。雖然大型人工智慧實驗室在監控和減輕這些風險方面做出了令人欽佩的承諾，但事實是，行業的自願承諾是不可強制執行的維納在周日的一份聲明中說：“而且很少為公眾帶來好的結果。”
維納表示，圍繞該法案的辯論極大地推進了人工智慧安全問題，他將繼續強調這一點。
該立法是立法機關今年通過的一系列旨在監管人工智慧、打擊深度造假和保護工人的法案之一。州立法者表示，加州今年必須採取行動，並列舉了他們在社群媒體公司本來有機會控制的情況下卻未能加以控制的慘痛教訓。
加州人工智慧法案包含哪些內容？
該措施的支持者，包括伊隆馬斯克和Anthropic，表示該提案可以為大規模人工智慧模型注入一定程度的透明度和問責制，因為開發人員和專家表示，他們仍然沒有完全了解人工智慧模型的行為和行為方式。
該法案針對的是需要高水準運算能力和超過 1 億美元（9,000 萬歐元）來建構的系統。目前的人工智慧模式還沒有達到這個門檻，但一些專家表示，這種情況可能會在明年發生變化。
「這是因為行業內大規模的投資規模擴大，」前 OpenAI 研究員 Daniel Kokotajlo 說，他因認為該公司忽視人工智慧風險而於 4 月辭職。
「讓任何私人公司不負責任地控制這種權力是瘋狂的，而且風險也非常大」。
美國在監管人工智慧以限制風險方面已經落後於歐洲。支持者表示，加州的提案並不像歐洲的法規那麼全面，但它本來是圍繞快速發展的技術設置護欄的良好開端，該技術引發了人們對失業、錯誤資訊、侵犯隱私和自動化偏見的擔憂。
去年，許多領先的人工智慧公司自願同意遵守白宮制定的保障措施，例如測試和分享有關其模型的資訊。該措施的支持者表示，加州法案將要求人工智慧開發商遵守與這些承諾類似的要求。
但包括前美國眾議院議長南希·佩洛西在內的批評者認為，該法案將「扼殺加州科技」並扼殺創新。他們表示，這會阻止人工智慧開發人員投資大型模型或共享開源軟體。
紐森否決該法案的決定標誌著大型科技公司和人工智慧開發商在加州的又一次勝利，其中許多公司在過去的一年裡與加州商會一起遊說，以阻止州長和立法者推進人工智慧法規。
另外兩項全面的人工智慧提案也面臨科技業和其他產業越來越多的反對，但在上個月的立法截止日期之前夭折了。
這些法案將要求人工智慧開發人員對人工智慧產生的內容進行標記，並禁止用於做出就業決策的人工智慧工具的歧視。
“它不會消失”
州長今年夏天稍早表示，他希望保護加州作為人工智慧全球領導者的地位，並指出全球 50 強人工智慧公司中有 32 家位於該州。
他將加州列為早期採用者，因為該州可能很快就會部署生成式人工智慧工具來解決高速公路擁堵問題，提供稅收指導並簡化無家可歸者計畫。
該州上個月也宣布與人工智慧巨頭英偉達建立自願合作夥伴關係，幫助培訓學生、大學教師、開發人員和資料科學家。加州也正在考慮針對人工智慧在招募實踐中歧視的新規則。
但與立法者就技術和隱私提案合作的非營利組織隱私未來論壇副主任塔蒂安娜·賴斯表示，即使紐瑟姆否決了加州的安全提案，仍激勵其他州的立法者採取類似措施。
賴斯說：“他們可能會在下一次立法會議上複製它或做類似的事情。” 「所以它不會消失」。
