でかいの日記帳

2020/2/16 Sunday

AI崩壊

Filed under: - dekaino @ 22:43 このエントリをはてなブックマークに追加 AI經紕のはてなBookmark被リンク数

AI崩壊を観ました。医療用AIクラウドシステムが暴走したというSFサスペンス映画です。
AIが暴走するってSF映画は過去にたくさんありましたが、本作のAIは意外とリアル。なんと自意識を持っていません。音声で指示できるし合成音声で受け答えもするのですが、自意識などはなく粛々とプログラムに従って動いているだけ。自己防衛本能なとどいうものもないようです。いわばスマートスピーカの発展形に過ぎない。
それなのに悪意あるコードを植え付けられると社会に大影響があり、ともすれば社会崩壊につながる可能性があるという、ある意味でとてもリアリティがある話。たとえば現在でもコンビニ決済システムが不具合でまる一日止まるだけで消費生活に大打撃ですからね。それが医療システムだったらそりゃ大変でしょう。
ただ暴走したシステムを止められないという設定はいまいち疑問。物理的にもネットワーク的にもセキュリティ対策されており、バックアップ電源があるので電源遮断しても動作し続けるあたりまではわかるのですが、ネットワークなんかは外部から簡単に切断できると思うのです。
どこかのblogサービスのように一度止まってしまって二度とサービス復旧できないというのはたまに聞きますが、サービスが制御不能になって止められないというのはITシステムではあまり聞かないです。止めるだけなら容易にできそう。
まあこれが、資本主義体制とか政府中央集権システムみたいな社会制度システムの話なら、暴走しても止めるに止められない状況にはなるだろうなとは思うのですが、たかがAIサービスが止めるに止められないというのはわからないですね。現代社会でも上水道だって電力だって止まるときには止まるのですよ。ただ止めた場合のダメージが大きいだけで止められないわけではない。

まあ重箱の隅をつついてしょうがないのですが、秘書だか大沢たかおのアテンドしてた玉城ティナがなかなかよかったです。ああいう秘書雇いたいですなあ。それから本作の広瀬アリスは全然エロくないです。

19 queries. 0.191 seconds. Powered by WordPress ME
For questions or comments, please send mail to: webmaster@dekaino.net