歐盟採取「風險導向」的管理方式，AI對人類權利或健康的風險越高，企業保護個人的義務就越重。新法明文禁止將AI用於預測性警務、職場或學校的情緒識別，以及操縱人類行為。此外，週日起所有AI生成的深偽技術（deepfakes）內容必須明確標記，聊天機器人（chatbots）也必須主動告知用戶其為AI。現有系統需在12月2日前完成調整，但藝術與諷刺等創作可獲得豁免。
在執法方面，歐盟執委會旗下的「AI辦公室」（AI Office）將有權測試最先進的通用AI模型。企業必須向歐盟開放其模型，甚至可能被要求在上市前供歐盟審查。若有疑慮未解決，歐盟可限制模型在境內部署。這項新權力來得正是時候，歐盟今年曾難以獲取美國AI開發商 Anthropic 的 Mythos 模型，週日生效的新規將可避免此類問題再度發生。
若企業違反禁用規定，最重可面臨全球年營業額7%或3500萬歐元（約4000萬美元）的罰款；其他違規最重則罰全球年營收3%或1500萬歐元。此外，鑑於馬斯克（Elon Musk）旗下聊天機器人 Grok 先前生成非自願裸照引發全球公憤，歐盟將於今年12月起禁止AI生成性化深偽內容。至於涉及安全與基本權利的高風險AI系統，則將延後至2027年12月與2028年8月起實施。
【原文出處】歐盟AI法案週日生效！違規最重罰全球年營收7%
本文由AI協作，經編輯審核後發布
