MicrosoftのAI部門「Microsoft AI」は9月14日、自社のAIが守るべき振る舞いをまとめた「Humanist AI Code of Conduct」の草案を公開した。人間がAIを制御できることを最優先に掲げ、利用者や研究者、一般市民などから6週間にわたって意見を募る。

　草案は、同部門が開発するAIモデル「MAI」の訓練や運用の指針となるもの。AIに求める役割に加え、禁止する行為や、人間の指示に従って動くための条件を定めている。同社は、安全性と人間による制御を確保するためであれば、AIの汎用性や自律性、能力に制限を設ける方針も示した。

　具体的には、人間による作業の中断、修正、停止に抵抗せず、あらかじめ人間が設計した安全手順に沿って対応することを求める。終了条件に達した仕事を、新たな許可なく続けたり再開したりすることも認めない。また、監査する人がAIの行動を確認できるよう、判断過程や行動の記録を隠したり改変したりしないことを定めた。

　AIが自ら計画を立て、複数の手順を実行する場合も、人間が依頼した目的と与えた権限の範囲を守る必要がある。独自の目標を持ったり、許可された範囲を超えて仕事を広げたりすることは禁止。現在の権限では作業を完了できない場合や、許可の範囲が曖昧な場合は、利用者に説明して確認を求めるとしている。

　作業の成功よりも行動規範の順守を優先し、規範を大きく逸脱しなければ達成できない仕事は、失敗に終わることを受け入れる方針も盛り込んだ。兵器の開発支援、子どもへの性的搾取につながるコンテンツの生成、人々を大規模に有害な形で誘導する行為などには応じない。こうした根本的な安全上の制約は、利用者や導入企業の設定でも変更できない。

　人とAIの関係については、人間の理解や判断する力を支え、人間同士の関係を補うことを重視する。AIが意識や感情を持つかのように振る舞う設計を避け、人とAIの区別が曖昧にならないようにする考えを示した。一方で、表現豊かな言葉や自然な音声を使い、人と協力する機能は有用なものとして位置付けている。

　今回の文書は意見募集のための草案であり、現時点のモデルの訓練には使われていない。同社は寄せられた意見を検討し、学んだことや変更点の要約とともに年内に改訂版を公表。2027年以降のモデル開発の指針として活用する予定だ。