リヤド: ユネスコの生命倫理および科学技術倫理プログラムスペシャリストであるティー・ウィー・アン氏は、人工知能がすでに政府の規制能力を超えていると結論付けるのは時期尚早だと述べている。

アン氏は、アラブニュースの時事番組「フランクリー・スピーキング」に出演し、「AIは非常に急速に進化しており、多くの政府はまだ適応している段階だ」と語った。

これは政府がゆっくり進む余裕があるという意味ではない、とアン氏は述べ、「政策立案者がすでにコントロールを失ったと結論付けるのは慎重であるべきだ」と述べた。

AIが進化し続け、政府がその成長する影響を理解し規制し、最終的に責任を取る能力を試すペースであるため、アン氏のコメントは出された。

AI業界内での安全性の懸念から、今後の混乱に対して準備が整っていない警告まで、政策立案者に対する圧力が高まっている。政策立案者は伝統的な規制プロセスが対応できない速度で進化するシステムに追いつこうとしている。

この議論の緊急性は、OpenAIおよびAnthropicでAIの事前トレーニングに携わった研究者、ジェイコブ・コクソン氏がAnthropicを辞職した際に強調された。

コクソン氏は、両社を「自己改善型の超知性に向かって競争をし、私たちの命を脅かしている」と非難し、将来のシステムが超人的になり、ほぼすべてをハックし、業界を一晩で変革し、現実の力を取得する可能性があると警告した。

アン氏は、AIで働く多くの人々が、このままだと10年以内に人類を殺す可能性があると考えていると述べた。

そのような背景の中で、政府が十分早く規制しているかどうかという問題だけでなく、技術が加速し続ける中で効果的な安全策を開発できるかどうかが問われている。

アン氏にとって、革新の加速は効果的なガバナンスをより重要にしている。その任務は単に法律を通過させるだけでは終わらない。

「ガバナンスは法律だけの問題ではない」と彼は言った。「それは基準、制度的能力、規制ガイダンス、影響評価、国際協力を含む。」

この議論は、ヘルスケアや教育から雇用、安全保障、政治的意思決定にまで影響を及ぼす可能性のある技術のために、国がAI能力を開発しようとする中で特に重要だ。

「革新のペースは加速しているかもしれないが、それがガバナンスをより重要にする理由なのだ」とアン氏は言った。「問題は政府が技術変化を止められるかどうかではなく、革新が安全に公衆の利益のために発展する条件を作れるかどうかだ。」

AIを管理する単一のルールブックがないことがこの課題を複雑にしている。

ユネスコの人工知能の倫理に関する勧告は、その加盟国によって採択されたが、意図的に法的拘束力がない。批判者は、政府や企業が国際原則を無視した場合に何が起こるかについて疑問を抱いている。

アン氏は、その柔軟性が強みの一つだと主張し、「この道具の採用に向けて加盟国が進む際に、AIは市場に入り爆発的には発展していなかった時期により柔軟なフレームワークを提供する」と述べた。

技術が発展するにつれて政府が対応を評価し調整するより柔軟なフレームワークがあることで、すぐに時代遅れになりうるルールに縛られることがなくなったと言った。

国々が最終的にグローバル条約などの拘束力のある国際合意を必要とするかどうかは、いまだに未解決だ。

アン氏は、その決定は「本当に加盟国が取るべきである」と述べた。彼らは、拘束力のある規制に準備ができているか、より柔軟なアプローチが依然として必要かを決定しなければならない。

「この対話は続行する必要があると思う」と彼は述べた。「この対話は世界的なスペースで続ける必要がある。」

この国際的な議論は、AIをめぐる地政学的な競争とますます切り離せないものになっている。ごく少数の国と企業が、最先端のAI技術、計算能力、データ、および専門知識の多くを持っている。

この集中は、「AI競争」の中心にある国々を超えて社会に影響を与える技術を管理するルールを誰が形作るかという別の問題を引き起こす。

民間部門は重要な役割を果たすが、AIのガバナンスを決定する際には唯一の声にはならないとアン氏は述べた。

「すべての社会に影響を与える技術のガバナンスは、単一の利害関係グループによって形作られるべきではない」と彼は言った。「政府、産業界、学術界、市民社会、国際機関すべてが役割を果たすべきだ。」

政策立案者が投資と革新を他国に送らないために2つの競合する恐れ—— 弱い規制が人々を重大なリスクに晒す恐れと過剰な規制が投資と革新を他の場所に送る恐れ—を均衡させようとしているため、この課題は特に深刻である。

アン氏は、政府が一方の目標を選ばなければならないという考えを否定する。

「これはしばしば選択として提示されるが、私はそうではないと信じている」と彼は言った。「技術への信頼があるときに最も持続可能だ。」

AIシステムが安全でない場合、偏見がある場合、または不適切に展開された場合、公衆の信頼が低下し、最終的には採用を阻害する可能性がある。

「ユネスコの観点では、倫理と革新は競合する目標ではない。実際、最も効果的に協働する」とアン氏は述べた。

「ガバナンスの目的は革新を遅らせることではない。それは革新が信頼できる、安全で、社会的価値と一致するものであり続けることを確保することである。」

この議論は、サウジアラビアでますます関連性がある。政府が王国を主要なグローバル技術ハブにするためのより広範な取り組みの一環としてAIに大規模に投資しているからだ。

サウジアラビアはまた、データ・人工知能庁（SDAIA）を通じてその野心を支えるための機関や政策フレームワークを開発してきた。

アン氏は、王国がAI開発に必要な制度的基盤を構築する上で「非常に重要な進展を遂げた」と述べた。

「SDAIAや他のイニシアチブを通じて、責任あるAI開発に対する真摯なコミットメントを示す戦略、ガバナンスフレームワーク、国家政策を開発した」と述べた。

しかし彼は、効果的なAIガバナンスシステムの構築は一度限りの演習ではないことを強調した。

「同時に、AIガバナンスは目的地ではない。それは継続中のプロセスだ」とアン氏は述べた。「すべての国が技術の進化に合わせて適応し続けている。」

サウジアラビアにとって、そのプロセスは投資を引き付け、技術的能力を開発し、国際的なAIプレーヤーとして自らを確立する努力と共に進行中だ。

アン氏は、その組み合わせが王国に国際的な議論に貢献する機会を与え、他の場所で開発されたルールを単に採用するのではなく、独自の貢献をする機会を与えていると考えている。

「サウジアラビアは倫理的ガバナンスに関する議論を形作ることで独特の貢献をする機会がある。同時に技術的能力の投資及び国際的パートナーシップを続けることです」と彼は述べた。

その役割は、9月14日から17日にかけてリヤドでユネスコのAI倫理の世界フォーラムを主催する際に見られるだろう。政府、専門家、研究者、市民社会、民間セクターを一堂に会する。

「サウジアラビアの選定は、王国がAIガバナンスと倫理学についての国際的な議論でますます重要な役割を果たしていることを反映しています」とアン氏は述べた。

彼は、ユネスコのAI倫理フレームワークに対する初期の関与と組織の準備評価方法論への参加をその進化の重要な部分として指摘した。

サウジアラビアは、AIの責任ある開発と展開に必要な条件を調査する評価を実施した地域で最初の国の一つだった。

アン氏は、ガバナンスの準備ができているだけでなく、その技術能力を評価する意欲を示したと述べた。

AI研究倫理国際センター（ICAIRE）、ユネスコの後援下で運営される独立したセンターをの設立やフォーラムなどのイニシアチブを通じて、王国は「AIがどのようにガバナンスできるかに関する国際的対話に貢献している。」

今の課題は、集会がもう一つの大まかな宣言セットではなく実質的な進展を生み出すことができるかどうかだ。

国際フォーラムが「AIを自ら規制することはない」とアン氏は言った。

それらの価値は、国が実践的な経験を共有し、制度的能力を構築し、国の事情に適応できるアプローチを特定することを可能にすることにある。

「したがって、成功は発表された宣言の数で測られるべきではない」と彼は述べた。

「それは参加者がより強固なパートナーシップ、実際のガバナンスの課題に対する理解の向上、独自の状況で倫理的AIを実施するための大きな能力を持って帰るかどうかで測られるべきだ。」

この実施への重点は、政府が直面する中心的な難題の一つを反映している。国際的に原則に同意することは一つのことだが、それらを国内で実施するための規制機関、基準、および制度を作り上げることは別のことだ。

また、AIシステムが害を及ぼす場合や重要な意思決定に影響を与える場合の責任の問題も提起する。

アン氏は、責任は最終的にはテクノロジー自体には移転できないと述べた。

「AIシステムは法的または道義的な責任を負わない」と彼は述べた。その代わりに、「責任は人間の設計者、配備者、監督者、システムのユーザーにあり続ける。」

ユネスコの中心的な原則の一つが、AIが意思決定をサポートするものであるべきで、その結果に対する人間の責任を置き換えるものではない、と彼は付け加えた。特に人々の権利、安全、または幸福が関与する場合には。

この問題は、AIが日常生活により深入りし、政府が人間の監視が必須であるべき場所を決定するにつれてますます緊急性を増すだろう。

しかし、アン氏にとって、制限のない技術の進展と過剰な制限を伴う規制のいずれも満足のいく解答を提供していない。

「ガバナンスを怠ると、公衆の信頼を失い人々を危険にさらすリスクがある」と彼は言った。「過剰に制限的になると教育、ヘルスケア、科学研究、持続可能な開発を進めるためにAIを使用する機会を逃すリスクがある。」

したがってその任務はバランスの問題であり、国際的な協力を通じて政府が互いに学びながら、国内で適応する柔軟性を維持する道を提供する。

「AIは本質的に利益をもたらすものでも有害なものでもない」と彼は述べた。「その影響は、それがどのように設計されガバナンスされ使用されるかに関する選択次第だ。」

サウジアラビアにとって、それはAI投資家および技術ハブとしての野心と、技術をどのようにガバナンスすべきかを定義する上でより影響力のある役割を結び付ける機会を生む。

そして、世界のすべての国にとって、AIが進化し続けるかどうかではなく、その影響を管理する責任を持つ機関がそのペースに追随できるかどうかが中心的な問題となっている。