>>390
AIに関しては本当に「困りもの」だと思う。
今でもいろんな分野で人間より優れてるけど今後ますます発展したらさらに多くの分野で人間を上回る。
たとえば戦争での作戦指揮。戦争の勝敗は死活問題だけに人間を上回るAIがあればAIに指揮させたほうがいい。さらにAI同士でもより高性能のAIが勝つからその研究開発はやめられないし、国際的にどんな条約を結んでも「抜け駆けした者勝ち」だから条約も守られそうにない。

政治や経済でも同じようなことが言える。AIの言うとおりにしたほうが間違いないとなれば、「火の鳥　未来編」みたいな（あんな単純じゃないにせよ）事態にならないかという不安。でも、より高性能AIを持たなければ国際競争に負けるとなれば規制なんかやってられない。
最終的な決断は人間がするようにしても、AIの判断をくつがえせば高確率で失敗するのであれば、くつがえせる人間がいなくなる。