text: AIの軍拡競争は過熱し、ブレークスルーは加速度的に起こっている。OpenAIによるChatGPTのリリースは、人間と機械とのインターフェースに大きな飛躍をもたらし、大規模言語モデルの驚くべき進歩を示している。一方、Dall-E、Stable Diffusion、Midjourneyなどの生成AIは、テキスト記述から非常にリアルで詳細な画像を生成することができ、かつて人間だけのものと考えられていたレベルの創造性と想像力を示しています。人間は基本的に、絶えず技術を進歩させ、知識や能力を向上させるようにできているようです。また、人間の脳は直線的に考える傾向があるため、テクノロジーの指数関数的な進歩を過小評価する原因となっています。企業や国家は、市場原理や地政学的なゲーム理論によって、AIの進歩を通じてより優れた知能を追求するインセンティブを与えられています。いのちの未来研究所はこのほど、『Pause Giant AI Experiments：公開書簡」を発表しました。イーロン・マスク、スティーブ・ウォズニアック、アンドリュー・ヤンなど著名人が署名したこの書簡は、高度なAI開発の6ヶ月間の一時停止を求め、波紋を呼びました： 「したがって、我々はすべてのAI研究所に対し、GPT-4よりも強力なAIシステムの訓練を少なくとも6ヶ月間、直ちに一時停止するよう要請する。この一時停止は、公的かつ検証可能なものでなければならず、すべての主要な関係者を含むものでなければなりません。このような一時停止が迅速に実施できない場合は、政府が介入してモラトリアムを実施する必要があります。" この書簡に対するメディアや世間の論調の多くは、誰が署名したかに焦点を当て、人類が人工超知能の差し迫った存亡の危機に直面しているという考え方に背を向けています。人工知能の暴走というディストピア的な主張は、多くの人にとって誇張に思えるし、6ヶ月のモラトリアムを要求するのは現実的でない。中国にAI軍拡競争への取り組みを「一時停止」させるよう説得するのが吉だ。しかし、境界線はないのだろうか。ガイドラインがない状態で進めるべきでしょうか？例えば ...透明性や説明可能性を欠き、人間が意思決定の理由を理解できないブラックボックスのAIシステムに意思決定を委託することに抵抗はないのだろうか。人間の意見なしに殺傷力の行使を決定するAI搭載の自律型兵器の開発を心配する必要があるのでしょうか。