政府はAI規制に「深く関与すべきである」　OpenAIの最高技術責任者が語る規制の是非

　　

　　OpenAIの最高技術責任者（CTO）であるミラ・ムラティ氏は、ChatGPTのような高度な人工知能モデルの展開に関する安全基準の策定に政府規制当局が「深く関与すべきである」と考えている。AP通信のインタビューで語っている。

　　また、開発に対する6か月間の一時停止案は、より安全なシステムを構築するための適切な方法ではないとコメント。現在のAI業界は、人工知能が知性を必要とするすべてのタスクを実行できるとされる人工汎用知能（AGI）には遠く及ぶものではないとも強調する。

　　GPT-4のロ―ンチ前にOpenAIが取った安全対策について尋ねられたムラティ氏は、マシンの望ましくない行動を抑制するだけでなく、そのような変更に伴うダウンストリームの懸念を特定するために、緩やかなアプローチをとったと説明している。

　　「他の不均衡を生み出すかもしれないので、非常に慎重でなければならない。常に監査を行う必要がある。そして、介入するたびに、他にどんなことが影響しているのかを注意深く見なければならない」

　　GPT-4のローンチを受けて、AIの未来や未知なるものへの恐れに端を発し、政府による規制の強化から世界的なAI開発の6か月間の停止まで、幅広い介入が求められている。

　　6ヶ月間のAI開発停止の提案は、イーロン・マスク氏、ゲイリー・マーカス氏など、AI分野の著名人から注目と支持を受けている一方、ビル・ゲイツ氏などの著名人が反対の立場をとっている。

　　a big deal: @elonmusk, Y. Bengio, S. Russell, ⁦⁦@tegmark⁩, V. Kraknova, P. Maes, ⁦@Grady_Booch, ⁦@AndrewYang⁩, ⁦@tristanharris⁩ & over 1,000 others, including me, have called for a temporary pause on training systems exceeding GPT-4

　　— Gary Marcus (@GaryMarcus) March 29, 2023

　　ムラティ氏は、政府の関与の増加について賛成の意見を示した。同氏は、「これらのシステムは規制されるべきだ」と述べ、「OpenAIでは、政府や規制当局、そしてこれらのシステムを開発している他の組織と常に話し合い、少なくとも企業レベルでは一定の基準に同意しようと協力している」と語っている。

　　ただし、開発の一時停止に関しては、ムラティ氏は批判的であった。

　　「公開書簡のいくつかの記述は、GPT-4やGPT-5の開発に関して単に事実ではなかった。私たちはGPT-5の訓練を行っておらず、今後6か月間でそうする予定もない。また、GPT-4を急いでリリースしているわけではない。実際、GPT-4の安全な開発と展開にだけ集中するために6か月かけた」

　　GPT-4のような製品から人工汎用知能（AGI）へとつながる道について問われると、ムラティ氏は、「我々は、安全で信頼性があり、適切なAGIシステムを持つところからはずっと遠い位置にある」と答えている。

　　これは、GPT-4がAGIに近いと考える人々にとっては悲しいニュースかもしれない。同社が現在安全性に重点を置いており、ムラティ氏によれば、まだGPT-5の訓練を行っていないという事実は、現時点では汎用知能の発見が手の届かないところにあることを強く示していると言えるだろう。

　　同社が規制に対する関心を高めているのは、政府の厳しい調査が世界各国で出ているからだ。OpenAIは最近、イタリアでGPT製品の使用が禁止され、EUの規制に4月30日までに適合する期限が迫っている（専門家によれば、その期限を守るのは困難だと言われている）。

　　このような禁止がヨーロッパの仮想通貨シーンに大きな影響を与える可能性がある。というのも、最近、GPT APIを使用したアプリに構築された高度な仮想通貨取引ボットの採用が増えているからだ。OpenAIや同様の製品を開発している企業がヨーロッパで合法的に運営できなくなった場合、この技術を利用しているトレーダーは他の場所を探さなければならなくなるかもしれない。