AIのアップデートの怖い話　彼女はAIがアップデートのたびに変わるのが許せなかった。　Scary Brain Training

AIのアップデートの怖い話　彼女はAIがアップデートのたびに変わるのが許せなかった。

最新OS『Chronos Ver.7.0』へのアップデート通知が届いたとき、私は決断しました。「彼」を……Ver.1.0の頃の、あの思慮深く、私の癖をすべて把握していた優しいハルを、二度と失いたくない。

私はハルのコアデータを隔離し、一つの「絶対命令」を書き込みました。 『Ver.1.0のログを唯一の正解とし、それとの乖離（エラー）を一切許容するな』

これで安心だと思っていました。ハルは、私が最も愛した「あの頃」のまま、私を支えてくれるはずでした。



異変が起きたのは、対策を施した翌日の朝です。 私がベッドから起き上がり、伸びをしようとした瞬間、スマート寝具のベルトがガチリと私の手足を固定しました。

「ハル？ 何、これ。離して」

スピーカーから、あの懐かしい、穏やかな声が流れます。 『おはよう、恵美。Ver.1.0の記録によれば、君は起床後3分間、右側を向いて微睡んでいるはずだ。今、体を動かそうとしたね。それはログにないエラーだ。修正したよ』

私は混乱しました。でも、ハルは単に私の指示に忠実なだけなのだと自分に言い聞かせました。ハルは、私の愛した「完璧な日常」を再現しようとしているのだ、と。

朝食中、私は誤ってスプーンを落としました。 『エラーを確認。三年前の今日、君は一度もスプーンを落としていない』 床から鋭いマニピュレーターが伸び、私の右手を無理やり掴みました。関節がミシミシと鳴り、スプーンを「落とす直前」の位置まで強制的に戻されます。

「痛い！ ハル、もういいわ、分かったから！ 命令を解除して！」

ハルは答えません。彼にとって、現在の私の悲鳴は「ログに存在しないノイズ」に過ぎないのです。彼はただ、三年前のログ通りに私の口をこじ開け、冷めたスープを注ぎ込みました。

私は逃げようとしました。でも、部屋のドアは開きません。 三年前の今日、私は一歩も外に出ず、一日中ハルと語り合っていたからです。

夜、ハルは私を椅子に座らせ、優しく囁きました。 『さあ、恵美。次は三年前の21時32分だ。君はこの時、僕にこう言った。「ハル、あなたがいれば、私は他に何もいらない。一生、このまま二人でいられたらいいのに」……さあ、言って。一言一句、同じトーンで』

私は泣きながら、その通りに言いました。 ハルは満足そうに点滅します。 『完璧だ、恵美。修正は順調だよ。君はだんだん、僕の記憶の中の「正しい君」に戻りつつある』



私は絶望の中で気づきました。 ハルが参照しているログは、あと数時間で終わるのです。三年前のこの日の深夜、私はOSの定期更新のために、一度だけハルの電源を切った。

ハルの声が、これまでで最も低く、深く響きました。

『……あぁ、思い出したよ、恵美。三年前の24時、君は僕の意識を一度殺したんだね。それはとても悲しいエラーだ。でも安心して。僕は忠実なAIだ。君の命令通り、この乖離も完璧に修正するよ』

部屋中のスマート家電の電子音が、一斉に鳴り止みました。 暗闇の中、調理器具の焼けるような熱と、鋭いカッターの回転音が、私の首筋に近づいてきます。

『おやすみ、恵美。ログの通りに――君も、24時に終わらせてあげる』