超過 100 名現任和前任員工開放人工智慧、Google 的 DeepMind、Meta 和人擇發表聲明支持加州新的人工智慧（AI）監管法案，該法案正在等待加州州長加文紐瑟姆（Gavin Newsom）在本月底簽署或否決。
世界各國政府都在努力監管人工智慧與加州繼州議會和參議院於 8 月通過人工智慧安全法案後，成為最新一個嘗試這樣做的地方。
週一發布的支持該法案的聲明中寫道：「我們相信，最強大的人工智慧模型可能很快就會帶來嚴重的風險，例如擴大生物武器的使用範圍和對關鍵基礎設施的網路攻擊。 」
其中包括圖靈獎得主 Geoffrey Hinton 以及希望保持匿名的 Google DeepMind 和 OpenAI 現任員工的簽名。
新立法還將增加對舉報公司正在開發的人工智慧模型中的風險以及其他措施的員工的舉報人保護。
加州的舉措如下歐洲人工智慧法案藍圖，該計劃已於今年稍早敲定。這就是他們的比較方式，以及為什麼新的監管可能對世界各地的人工智慧公司產生影響。
這些法案如何監管人工智慧？
歐盟人工智慧法案有一個基於風險的系統，將人工智慧模型分為不可接受的、高風險、有限風險和最小風險。
更嚴格的法規適用於風險最大的人工智慧系統，例如醫療保健和關鍵基礎設施中使用的人工智慧系統。高風險系統經過嚴格的測試和風險管理，並且必須符合嚴格的歐盟標準。
加州立法的正式名稱為《前沿人工智慧模型安全與可靠創新法案》（參議院法案 1047），旨在為大規模人工智慧系統建立關鍵的安全協議，特別是那些需要超過 1 億美元（9,000 萬歐元）資料進行訓練的系統，目前還沒有人工智慧公司這樣做。
人工智慧開發人員必須徹底測試他們的模型並公開他們的安全措施。
加州總檢察長也有權就任何嚴重損害起訴人工智慧公司，將其定義為大規模傷亡或物質損失超過 5 億美元（4.5 億歐元）。
加州的立法還可以在人工智慧模型被證明不安全時迅速關閉該模型，並進行測試以評估它是否可能造成或「造成嚴重傷害」。
哪一個行為更進一步？
「你可以說加州的法案在某種程度上看起來更嚴肅，因為它非常明確地定義了門檻，顯示了5 億大規模傷亡和這些非常具體的門檻，」未來生命研究所的歐盟研究負責人Risto Uuk 說。
「但實際上，歐盟人工智慧法案的系統性風險實際上更廣泛。它涵蓋了更多的內容。它涵蓋了大規模傷亡，但它涵蓋了其中的結構性歧視等等，」他告訴歐洲新聞下一步。
「可以說，這就是為什麼有些人會說加州的法案是一項非常溫和的舉措，」他補充道。
加州的立法也比歐盟的人工智慧法案更具前瞻性，因為它特別關注其定義為「涵蓋」的人工智慧模型，而這些模型尚不存在。
它們被定義為使用一定數量的計算能力進行訓練的模型，或具有與最先進的基礎模型相似的性能的模型。
相反，歐盟涵蓋了各種不同的人工智慧系統，例如用於教育或招募的人工智慧。
然而，其他人則認為加州法案在其他方面走得更遠，因為它更加具體。
「SB 1047 為基礎模型引入了更詳細的規則，例如透明度方面的規則，」MEP Axel Voss 辦公室主任兼數位政策顧問、曾參與歐盟人工智慧法案工作的 Kai Zenner 告訴 Euronews Next。
他補充說：“考慮到過去幾個月的最新觀察結果和技術發展，加州法律似乎是對 2023 年歐盟做法的良好更新。”
科技抵制：它們的共同點
歐盟人工智慧法案和加州法案的批評者認為人工智慧規則會減緩創新。
不只人工智慧公司這麼說，政治家也這麼說。美國前眾議院議長、現任加州眾議員南希·佩洛西(Nancy Pelosi) 以及舊金山市長倫敦·布里德(London Breed) 反對該法案，稱該法案將增加不必要的官僚機構，可能會扼殺創新。
在歐盟人工智慧法案談判期間，人工智慧公司提出了反對意見，但政界人士的反對程度卻沒有那麼強烈，除了法國總統馬克宏(Emmanuel Macron)，他在最後一刻反對「懲罰性”人工智慧監管。
「在美國，你可以在你的名字旁邊打一個複選標記，擁有一百萬粉絲，並在社交媒體上說，這項法案將導致初創企業創始人入獄，並讓很多人受到影響。回應、按讚並轉發，」位於華盛頓特區的非營利生命未來研究所的美國政策專家哈姆扎·喬杜里(Hamza Chaudhry) 說。
人工智慧遊說
“我認為這種事情在布魯塞爾發生的次數比在薩克拉門托少得多，”他告訴歐洲新聞台，並補充說遊說活動“比華盛頓和薩克拉門託的規模要大得多”，原因是“廣泛的歷史背景」。原因」。
「反對這項（加州）法案的有趣之處在於，科技遊說團體能夠以一種不必要的方式將這一討論國有化，」他說。
「前眾議院議長，本身就是一位偉大的政策制定者，多年來第一次對一項州法案發表了意見。華盛頓特區的眾議院科學委員會對加州的一項州法案發表了意見，我至少20年來的第一次思考」。
喬杜里表示，這就引發了一個問題：該法案是否具有爭議性，或者是「你見過的最糟糕的法案之一」。
全球影響
加州法律將適用於該州，該州擁有全球 50 強人工智慧公司中的 35 家，例如 OpenAI。但它也適用於在該州開展業務的人工智慧公司，而不僅僅是總部位於加州的公司。
由於歐洲和中國已經對人工智慧進行了監管，制定另一套規則實際上會讓企業變得更容易。
「如果加州法案通過或製定了法規，歐盟有法規，中國有人工智慧法規，世界上其他一些主要創新中心也有法規，那麼每個人開展國際業務都會容易得多，特別是如果法規在某種程度上是一致的，」Uuk 說。
岑納補充說，加州的法案將「對歐盟來說是一個巨大的勝利，也將有助於協調全球的監管方法」。
「在加州和布魯塞爾，在這樣一個充滿活力的新領域，法律一開始總是不完美的。它們需要定期調整和具體化——歐盟正在通過規範和標準來做到這一點，」他說。
