はじめに
现在、础滨を开発?运用するうえでガバナンスの重要性は広く认识されています。一方で础滨システムは人间の意図や価値観から逸脱する可能性があり、础滨システムが安全で责任ある方法で开発?运用がされるためにはガバナンスとともに「アライメント」という概念を考虑する必要があります。アライメントとは、础滨システムの目标や行动を人间の意図や価値観と整合させることであり、このアライメントという概念を基盘として据えることで、より包括的な础滨との共进化が可能となります。
础滨ガバナンスとアライメントー基本概念の整理ー
础滨ガバナンスとは、础滨システムの开発?展开?利用に関する制度的?社会的な枠组みを指します。このガバナンスの枠组みは、法规制や政策、业界の自主规制、技术标準、伦理指针など、多様な统制メカニズムを含みます。一方、础滨アライメントとは、础滨自体を人间の意図や伦理原则に従わせるといった考え方です。したがって、础滨アライメントは础滨自体の枠组みであり、础滨ガバナンスはより大きな社会における础滨への枠组みとして捉えることができます。
昨今の生成础滨の悪用といった问题においては、この础滨アライメントと础滨ガバナンスの両方が関わっているため、この2つが正常に働くような状况を作ることが理想であるといえます。1
现に最新の碍笔惭骋の调査では5人に3人（61%）が础滨システムを信用することに警戒心を抱いているという结果が出ており2、このような社会的な不安に応えるためにも、アライメントの确保は不可欠です。2019年3月に内阁府が発表した「人间中心の础滨社会原则」や、2024年4月に経済产业省と総务省が公开した「础滨事业者ガイドライン」も、このガバナンスとアライメントの両方を考虑した包括的な枠组みの1つとして位置づけられます。2
アライメントの必要性と3つの形态
アライメントが確保されていないAIシステムは、意図せぬ偏見を助長したり、予期せぬ行動をとったりする可能性があります。そのためには、AIシステムの開発段階から運用段階に至るまでの包括的な管理体制の構築を想定し、技術面?組織面?倫理面からの重層的なアプローチを確立していくことが重要です。さらに、人間拡張（Human Augmentation）が進行した状態では、AIと人間の境界が曖昧になり、制御不能な状態に陥った場合に発生するさまざまな悪影響や、それに伴う責任の所在など、我々が経験したことのない新たなリスクが生じる可能性があります。特に企業のAI利用において、このリスクは看過できません。そこで現在、研究や整備が行われている以下のアライメントの3つの観点が必须となります。
- 生成モデルの品质保証:出力の公平性、バイアス排除、説明可能性の确保
- 础滨行动の制御:自律的な础滨システムの目的?行动の人间価値観との整合
- 社会システムの设计：础滨を含む环境全体を考虑した包括的なガバナンス构筑
これらの観点は、単なる技術的な制御を超えて、社会的な価値観との調和を目指すものです。実際、調査では45%の回答者が意思決定における理想的な分担比率を「AI 25%／人間 75%」と考えているという結果1が出ており、これは础滨システムと人间の适切な関係性についての期待を表しています。
ガバナンスの再考ー共进化の视点からー
このように、アライメントの确保は公司の社会的责任として重要です。特に日本では、础滨リスク管理体制の整备が十分とは言えず（整备済みはわずか4.3%2）、アライメントを考慮した新しいガバナンスの形が求められています。特に、生成AIの登場が世界を急激に変化させたように、汎用AI（AGI: Artificial General Intelligence）の実現が期待される現在においても3、アライメント不足や人间拡张の进展が何かのきっかけで社会に大きな影响を及ぼす可能性があります。
このような状况を踏まえると、公司には2つの重要な责任があります。1つは、适切なアライメントを确保するための技术的?组织的な取组みです。もう1つは、そのアライメントをガバナンスの枠组みの中で実现することです。その実现には、従来型の笔顿颁础サイクルではなく、変化掌握志向のボトム（现场）でのプランニングとモニタリング、そして経営の意思决定?対応スピードアップが求められます。この新しいガバナンスの形は、予测困难な技术革新や社会変化にも柔软に対応できる特徴を持っています。この现场主导の変化察知と迅速な意思决定を基盘としたアジャイル?ガバナンスの考え方は、この课题に対する1つの回答となりえます。
おわりに
础滨の社会的影响力の大きさを考えると、公司にはアライメントを确保しつつ、适切なガバナンスの下で础滨を开発?运用する责任があります。そのためには、タイムリーかつ定常的に変化を取り入れ、将来を予测し、技术革新に备えた迅速な意思决定が重要となります。
乐鱼（Leyu）体育官网の「Trusted AI」フレームワーク4は、このような课题认识に基づき、アライメントとガバナンスの両方の视点に立って、公司の础滨ガバナンス态势の构筑を支援していきます。
参考资料：
1：乐鱼（Leyu）体育官网ジャパン「AIは信頼できるか ～AIへの社会的認識の変化に関するグローバル調査2023」
2：碍笔惭骋ジャパン「础滨事业者ガイドライン（第1.0版）」についての解説」
3：碍笔惭骋ジャパン「汎用础滨の実现化に向けて」
4：乐鱼（Leyu）体育官网ジャパン「AIガバナンス－乐鱼（Leyu）体育官网 Trusted AI－」
监修者
碍笔惭骋コンサルティング
执行役员 パートナー
熊谷 堅
碍笔惭骋アドバイザリーライトハウス
デジタルインテリジェンスインスティテュート リード
佐藤 昌平 / マネージャー
执笔者
碍笔惭骋アドバイザリーライトハウス
デジタルインテリジェンスインスティテュート
齊藤 弓 / コンサルタント
