OpenAIのサム・アルトマンCEO、来週に議会公聴会で初めて証言へ

　　

　　OpenAIのCEOであるサム・アルトマン氏は5月16日に初めて議会で証言し、米国における人工知能（AI）規制について議論する予定だ。また、IBMのプライバシー・信頼担当責任者であり、米国国家人工知能諮問委員会のメンバーであるクリスティーナ・モントゴメリ氏や、ニューヨーク大学名誉教授のゲイリー・マーカス氏も証言する予定である。

　　US Senate hearing on #AI Oversight, with @OpenAI CEO @sama, IBMs @_ChristinaMont and NYU Emeritus Prof. @garymarcus, Tuesday am 10ET.

　　— Gary Marcus (@GaryMarcus) May 10, 2023

　　今回の公聴会の議題に関しては、まだ詳細は明らかにされていない。ただし、そのタイトルである「AI監視：人工知能のための規制」や、出席者の顔ぶれから、安全性やプライバシーに関する議論が中心になることが示唆されている。

　　この公聴会は、アルトマン氏が議会で初めて正式な証言を行う機会となる。彼は最近、アルファベット、マイクロソフト、アントロピックのCEOたちとともに、ホワイトハウスでハリス副大統領との円卓会議に出席した。

　　ニューヨーク大学のマーカス氏は、AI開発を6か月間停止する「一時停止」を提案し、AIコミュニティで話題となった。

　　AI開発の一時停止のアイデアは、3月22日にフューチャー・オブ・ライフ・インスティテュートのウェブサイトで公開されたオープンレターで定義されている。記事執筆時点で、その署名は27,500件を超えている。

　　このオープンレターの目的は、「すべてのAI研究所に、GPT-4よりも強力なAIシステムの開発を少なくとも6か月間一時停止するよう要請する」ことだ。

　　アルトマン氏とモントゴメリ氏は、この一時停止に反対している。

　　モントゴメリ氏の立場は、「AI開発を一時停止せず、倫理を優先する」と題された、彼女が執筆したIBMのブログ記事で説明されている。その中で、彼女はAI規制に対するより精確なアプローチを提案している。

　　「AIのトレーニングに対する一律の一時停止と、業界のAI倫理努力への投資を後回しにする現行の傾向は、さらなる損害と後退を招くだけだ」

　　モントゴメリ氏が共同執筆した別のIBMのブログ記事によれば、同社はAIの規制はリスクに基づいて行うべきだと考えている。ただIBMは現在、公開されている形では生成型AIモデルを持っていないことに注意すべきだろう。

　　一方OpenAIは、おそらく最も人気のある公開されているAI技術であるChatGPTを開発している。

　　マサチューセッツ工科大学（MIT）でのイベントでのレックス・フリードマン氏とのインタビューで、アルトマン氏はAIシステムの安全で倫理的な開発を支持しており、「議論にみんなを巻き込む」ことと「これらのシステムを世界に出す」ことを信じているという。

　　公聴会出席者の中では、マーカス氏が一時停止を支持する唯一の異端者となっている。マーカス氏は「一時停止」のオープンレターの草稿作成には関与していないと認めているが、オープンレターが公開される約1か月前に「AIの一時停止ボタンを押す時が来たのか？」と題されたブログ記事を執筆している。

　　上院公聴会は議会のメンバーが質問をする場であるが、議員がどの専門家を信じるかによっては議論が破壊的な影響をもたらす可能性がある。

　　もし議会がAI規制に厳しい手を打つことが必要だと判断した場合、モントゴメリ氏のような専門家は、そうした取り組みがイノベーションに冷ややかな影響を与える可能性があると懸念している。

　　この悪影響は、GPT技術が多くのボットやサービスを支えている業界に波及する可能性がある。例えば、金融技術の世界では、仮想通貨取引所がチャットボット技術を活用して顧客にサービスを提供し、取引を行い、市場を分析している。しかし、マーカス氏やイーロン・マスク氏のような専門家たちは、AI監視に関連する彼らが合理的と考える政策を実施しないことが、人類にとっての存続の危機を引き起こす可能性があると懸念している。