加州新法案：AI與社交媒體法規對科技巨頭的影響

加州州長加文·紐森於週一簽署了一系列法案，旨在保護兒童的網路安全，這是因應日益增長的人工智慧(AI)和社交媒體使用風險。紐森在聲明中表示：「我們可以繼續在AI和技術領域領先，但必須負責任地進行——保護我們的孩子是首要任務。」這些法案的推出正值AI熱潮帶來更複雜的聊天機器人，這些機器人能夠進行深入的智力對話並鼓勵某些行為。根據Fractl Agents的調查顯示，六分之一的美國人依賴聊天機器人，並擔心失去它們會對情感和職業發展造成影響。

加州法案旨在加強AI聊天機器人安全

加州通過的法律之一SB 243，要求AI聊天機器人必須披露其AI身份，並每三小時提醒未成年人「休息一下」。此外，聊天機器人製造商需實施工具以防止有害行為，並在某些情況下向危機熱線報告。紐森表示，這些法律允許加州在創新領域保持領先，同時也要求公司負起責任並優先考慮安全。OpenAI在一份聲明中稱這項法律是AI安全標準的「有意義的進步」。

社交媒體平台需標示心理健康風險

另一項法案AB 56要求社交媒體平台如Instagram和Snapchat，需加上標籤警告用戶使用這類應用程式可能帶來的心理健康風險。同時，AB 621則加重對於散布深偽色情內容的平台的處罰。AB 1043要求像Apple(AAPL)和Google(GOOG)這樣的設備製造商在其應用程式商店中實施用戶年齡驗證工具。Google和Meta(FB)等科技巨頭已經表示支持這些法律的安全措施。

新法對科技巨頭的影響

D.A. Davidson的Gil Luria指出，這些新法案要求許多公司改變其長期商業模式，但影響將是「分散的」，因為所有企業都必須遵循這些規則。他表示：「對於AI聊天機器人來說，這些規範的時機是有利的，因為這些公司仍在調整其商業模式，現在將從一開始就適應更具限制性的做法。」其他國家已經實施更嚴格的AI規範，例如歐盟去年通過的AI法案，包括對違反法律框架的公司處以罰款。

加州法案的意義

加州並不是第一個通過此類法律的司法管轄區，但紐森的簽署具有重要意義，因為加州人口眾多，且許多科技公司總部設於舊金山灣區。這些法律引發了對於是否過於嚴苛限制自由言論或禁令是否為最有效解決方案的討論。