韓国では、世界で初めて包括的なAI法を施行する。欧州連合（EU）は2024年に初めてAI法を制定したが、リスクの高いAI規制は2027年12月に先送りしている。
同法では、AI関連製品やサービスを直接提供するAI事業者は,AIが生成した音声、イメージ、動画に「ウオーターマーク（透かし）」の表示を義務づけている。
AIを活用したゲームには「本ゲームには一部で生成AIを活用しています」などの案内、あるいはAIで作成したキャラクターには「AIで作成」などと表示しなければならない。これに違反した場合は最大で3000万ウォン（約320万円）の過料となる。
また、国民の生命、安全、基本権に重大な影響を及ぼす領域に使用され、かつリスクの高いAIを「高影響AI」として定め、事業者にAI活用の事前告知、またリスク管理対策の取りまとめなどを義務づけている。
しかし、「高影響AI」の定義が曖昧で、「十分な議論が尽くせていない状態で法律が施行された」「言葉の意味を具体的にしかつ明確化し、規制の範囲を狭くしなければならない」などの指摘がある。
ではこの法律を世界で一番早く施行した理由は何だろうか。
その一つとして、韓国は個人情報大量流出、ネット世論操作、プラットフォーム企業の暴走という国家レベルの社会問題となる痛い事故を何度もやらかした記憶がある。
すなわち、大手IT企業によるデータ漏洩、AI推薦アルゴリズムによる世論誘導疑惑、ディープフェイク犯罪（政治家・芸能人）などが、短期間に一気に噴出し、「AIを野放しにすると社会が壊れる」という危機感が、政治家・官僚・国民の間で比較的共有されていた事がある。
また韓国は、「ウリらはデジタル超先進国で日本より上ニダ」とかいってキャッシュレス、電子政府、顔認証、行政AIを一気に普及させた。これに対してAIの副作用もフルコースで食らってしまったのだ。
加えて韓国では大統領選、検察改革、世論操作とAIが直結する政治リスクを抱えている。取り分け、生成AIによるフェイク動画やボットによる世論形成は、選挙結果を左右しかねない現実的脅威となっている。
結局、韓国はAIを「産業」ではなく「社会インフラ兼・政治リスク」として見ている。そのために、世界最速で規制に踏み切った、というのが理由のようだ。
まあ日本としては高見の見物をしていれば、韓国がAI規制の欠点の見本を見せてくれるから、これを踏まえてじっくりとやれば良い。
という事で、は～い、韓国さん頑張ってぇ～。