凡の工夫
検疫室
自分で動き回る AI の成果は、いったん検疫室へ置きます。
何に困っていたか
自分で調べ、自分で書き、自分で動き回る AI は、とても有能です。
けれど、その AI が凡の中へ直接書き込むと、何がいつ変わったのかが分からなくなります。気づいたときには、大事な決まりが書き換わっているかもしれません。
凡はどうしたか
凡は、そうした AI に読むことだけを許し、書いたものは「検疫室」に置かせます。
- 検疫室は、凡の外にある置き場です。
- 中身を見て、凡の中へ移すかどうかを決めるのは、人です。
- 人が承認するまで、凡の中は変わりません。
どの考え方から来ているか
暴走させない。AI が止まらずに大切なものを壊した経験から、凡の中を変えるときは、必ず人の確かめを通すと決めています。
いまどこまで
| できている |
これから |
|---|---|
| 検疫室の |
どれだけの |