Human Authority Principles
人とAIの権限設計原則
AIは実行できる。
その権限を決めるのは、人間である。
AIが質問に答えるだけでなく、現実世界で行動を実行する時代。 重要になるのは、
誰が決めるのか。 誰が実行するのか。 誰が異議を申し立てられるのか。 そして、誰が止められるのか。
DELIGHTは、 テクノロジーは人間が定めたルールを実行するものであり、 支配者になってはならないと考えます。
知能だけでなく、権限を設計する
AIが強力になるほど、その権限を明確にする必要があります。
AIは、
- 何を観測できるのか
- 何を提案できるのか
- 何を判断できるのか
- 何を実行できるのか
- 誰が異議を申し立て、止められるのか
生命、安全、自由、プライバシー、財産への影響が大きいほど、 より強い安全策が必要です。
01
観測
02
提案
03
判断
04
実行
05
検証・停止
これらすべての権限を、 一つのAI、一人の人間、一つの組織に集中させる必要はありません。
「Human in the Loop」だけでは十分ではない
AIの判断に人間を介在させるだけでは、 権限の問題は解決しません。
一人がすべてを変更できれば、その人に権限が集中します。
固定された少人数だけが例外を判断すれば、 その集団に権限が集中します。
DELIGHTは「人間が関与しているか」だけでなく、 権限がどのように制限・分散・記録・検証されるかを考えます。
Human-Criticalな領域へ
この原則は、テクノロジーが次の領域に関わるほど重要になります。
- 防衛・公共安全
- ケアと人間の尊厳
- 医療
- 緊急対応
- デバイス・ロボット
人を守ることが、 人を無制限に支配する権限になってはいけません。
速さ、安全、人間の尊厳、説明責任を共存させる必要があります。
権限の行使を検証可能にする
重要な行動については、
- 何が起きたのか。
- どの情報が使われたのか。
- どのルールが適用されたのか。
- どのシステムが判断したのか。
- 誰が承認・変更・停止したのか。
信頼できるシステムには、 「何をしたか」だけでなく、 「どの権限に基づいて実行したか」を確認できることが必要です。
未来は、 「人間かAIか」という二択ではありません。
重要なのは、 人間とAIの間の権限をどう設計するかです。
テクノロジーは人間が定めたルールを実行する。
支配者にはならない。