最近のAI怖いよ

・ChatGPTみたいなやつ
人間と区別しにくいレベルの作文と人間より多いこともある情報量とその中に目立たぬように含まれる大間違い。
間違いが多いうちはまだ良いが、もっと進化すればファクトチェックも完成度が上がって将来的には「人間（専門家）よりも間違いが少ないAI」になりかねない。人間よりも正確になると人間が判断をAIに任せるようになる。そのほうが正確性が高ければそうなってしまう。しかもAIが能動的に自分の性能を向上するようになっていくと人間が思考停止してしまう。
政治的決断を事実上AIがやってしまうようになると『火の鳥　未来編』みたいな致命的な間違いを犯しかねない。まず政治より先に軍事レベルで「冷静さを失うことがなく情報を漏らすことがなく決断が早いAIの指揮」のほうが勝率が高くなり、AI将軍が人間を上回るならそれは戦場で有用だから軍事でAIに依存するようになるんじゃないか。それから政治もAI任せになる。しかしAIに予期不能なバグは必ず存在する。

・AIによる描画
二次元描画での著作権の問題とかならまだマシで、すでに本物の写真と区別が難しいリアルなAI疑似写真が作れる。今はまだ解析して真贋の判定ができても、真贋解析用の技術はそのまま解析不能な画像生成技術に転用できる。そして静止画ならまだしもAI動画までクォリティが上がってる。
特に選挙直前に候補者のディープフェイク動画が流されると民主主義を守れなくなる。音声は本人の実際の音声データを使って全く別の内容を喋らせることができるし。
音声、写真、動画で本物と区別できない高度なフェイクができるなら、逆にいえば本物のもつ証拠能力のほうも失われていく。
フェイク動画で投票結果が左右されるなら、外国は喜んで国をあげて精密なフェイク動画を作ってばら撒くだろう。