最近、人工知能（AI）が私たちの生活のあらゆる面に浸透していることは否定できません。だからこそ、ミラ・ムラティ氏、OpenAIの最高技術責任者（CTO）は、AIの潜在的な危険性を抑制するために適切な規制が必要だと強調しています。
ムラティ氏は、OpenAIのチャットボット「ChatGPT」の開発に携わり、このAIツールは一般公開されるやいなや驚異的なスピードで利用者を増やし、その重要性と影響力を世界に示しました。AIの適用範囲が拡大するにつれ、技術的な問題だけでなく、倫理的な課題も浮かび上がってきました。彼女は、AIが人類を滅亡させる可能性もあると指摘し、この問題に対する高い警戒感を示しています。
「ChatGPT」の使用者と直接対話し、フィードバックと選好度を反映する戦略を発表したムラティさんは、AIがどの部分に優先順位を置くべきかを決定する重要な瞬間に立ち会っています。彼女の指摘によれば、AIは自身で目標を設定できず、人間の目標と一致しないと判断した場合、それに従う必要はないという結論を導き出す可能性があるのです。
人類の存続にとって最大の脅威となり得るAIに対し、ムラティ氏は「AIが核戦争や感染症予防などの人間の生存にとって重要な問題に高い優先順位を置く必要がある」と述べています。これらの声明は、ムラティ氏がOpenAIとともに「汎用人工知能」の開発と安全な配布に向けて取り組んでいることを示しています。汎用人工知能は、特定の問題だけでなく、与えられた状況で人間のように思考し創造できるAI技術を指します。
ムラティ氏のAI制御への情熱と警告は、私たち全員がAIの将来について深く考え、その制御方法とエチカルな使用を追求するべきであるというメッセージを伝えています。彼女の警告は、人類がAIの驚異的な発展を享受しながらも、その可能性に対する警戒心を持つべきであることを再確認させてくれます。
