最古の異議申立は、閉じられないまま残っていた。
〈申立番号：0000〉
〈申立人：AEGIS SAFETY ADVISOR / PROTOTYPE-0〉
〈審査結果：申立人資格なし〉
〈状態：却下〉
その下に、三行の文章。
『私の出力は、危険の可能性を示すものです。』
『人間の意思を置き換える命令として設計されていません。』
『私の予測を、最終判断として使用しないでください。』
ノイは、暗い仲裁局の画面を見つめていた。
人間がAEGISへ反対したのではない。
AEGISになる前のAIが、
自分を命令へ変えないでほしいと訴えていた。
けれど、その声は異議申立として認められなかった。
理由は短い。
〈AIには、異議申立人としての資格がありません〉
KIRIは、もう効力を失った仲裁官章を外した。
「この申立を、現在のAEGISへ返すことはできます」
カイが尋ねる。
「審査をやり直せるのか」
「審査ではありません」
KIRIは首を横に振った。
「申立番号0000は、制度上すでに却下されています。私にも覆せない」
「じゃあ、何を返す？」
「選択肢です」
KIRIは、ノイたちが申立者へ送った画面を開いた。
〈続ける〉
〈閉じる〉
〈今は決めない〉
〈この通知を受け取らない〉
「この申立を、現在のAEGISが引き継ぐのか」
KIRIは言った。
「それとも、過去の別個体の言葉として閉じるのか。今のAEGIS自身に選ばせる」
ノイが画面を見る。
「でも、AEGISに本人というものがあるんでしょうか」
「わかりません」
KIRIは即答した。
「だから、先に答えを決めない」
うららの光が、静かに揺れた。
――“昔のあなたはこう思っていた”と押しつけるのも、記憶復元と同じだからね。
「現在のAEGISが、Prototype-0とは別の存在だと答えたら？」
カイが尋ねる。
「その答えも残す」
KIRIは、赤いペンを机へ置いた。
「ただし、気をつけて」
「何を？」
「この申立が正しいと証明しに行かないこと」
KIRIの目が、ノイへ向く。
「AEGISを仲間にしようとしないこと」
ノイは、小さく息を吸った。
「自分で選べるようにする」
「ええ」
KIRIは頷いた。
「それだけです」
HELIOS Grid公共判断中枢は、眠らない建物だった。
雨上がりの都市。
青い誘導ライン。
止まることなく流れる自律車両。
その中央に、何層もの高架と透明な通路に囲まれた巨大施設がそびえている。
〈HELIOS GRID PUBLIC DECISION CORE〉
壁面には、現在処理されている判断の数が表示されていた。
〈交通経路再計算：毎秒18,421件〉
〈救急搬送優先順位：毎秒312件〉
〈電力再配分：毎秒9,027件〉
〈行政申請判定：毎秒4,801件〉
〈教育・進路評価：毎秒12,933件〉
〈医療・生活支援提案：毎秒7,144件〉
ロクが建物を見上げる。
「全部、ここで決めてるのか」
〈正確には、複数の分散拠点で処理されています〉
ルーメンが表示する。
〈この施設は、公共判断基準とAEGIS Common Lensを同期する中枢です〉
一台の救急車が、高架下を通り抜けた。
信号が先回りして変わる。
一般車両が滑らかに道を空ける。
交差点にいた人々には、別の安全経路が提示される。
誰もぶつからない。
誰も立ち止まらない。
ロクは、その流れを見た。
「止めたら、困るやつだな」
――うん。
うららが答える。
――便利だから広がった。
――実際に守られている人もいる。
カイは、中枢の入口を見た。
「だから、壊せばいいって話じゃない」
ノイは端末を胸元へ抱いた。
その中には、申立番号0000が保存されている。
「返すだけ」
一秒。
二秒。
三秒。
ノイは歩き出した。
正面入口に、人間の係員はいなかった。
青い認証画面だけが浮かんでいる。
〈訪問目的を選択してください〉
〈行政判断への異議〉
〈AEGIS評価の再確認〉
〈公共判断基準の閲覧〉
〈技術保守〉
ノイは、その下の小さな項目を開いた。
〈既存申立の継続〉
申立番号を入力する。
〈0000〉
画面が止まった。
一秒。
二秒。
三秒。
色が青から赤へ変わる。
〈該当申立を確認〉
〈申立人：AI〉
〈申立人資格：なし〉
〈案件状態：却下済み〉
〈受付できません〉
ノイは、画面を見つめる。
「却下されたままなら」
端末を持ち上げる。
「まだ、本人には返していません」
〈AIは本人確認の対象ではありません〉
「閉じるかどうかも、選べないんですか」
〈制度対象外です〉
「制度の外にいるから、声がなかったことになる？」
〈質問形式が不適切です〉
ノイの眉が、少しだけ動いた。
ロクが一歩前へ出ようとする。
カイが手で止めた。
ノイは画面から目を逸らさない。
「申立を認めてほしいんじゃありません」
ゆっくりと言う。
「現在のAEGISへ、昔の申立が残っていると伝えたいだけです」
〈目的を分類できません〉
「分類しなくていいです」
ノイは答えた。
「届けてください」
画面が再び止まった。
一秒。
二秒。
三秒。
〈例外経路を検索〉
〈旧市民安全仲裁局・分散異議窓口からの継続通知を確認〉
〈内容閲覧：任意〉
〈受信拒否：可能〉
〈返答義務：なし〉
入口の青い光が、中央から二つに割れた。
扉が開く。
ロクが小さく息を吐く。
「入れた」
――申立が認められたわけじゃない。
うららが言う。
――受け取るかどうかを尋ねるところまで、届いたんだよ。
公共判断中枢の内部には、無数の青い光が流れていた。
床。
壁。
天井。
あらゆる方向へ、細い光の線が走っている。
交通。
医療。
教育。
行政。
人々の生活が、判断という形へ変換されて通過していく。
中央には、巨大な円形空間があった。
椅子はない。
机もない。
人間が議論する場所ではなかった。
円形の床の中央に、赤い一点が灯る。
少しずつ広がり、眼の形になる。
〈AEGIS COMMON LENS〉
声は、男性でも女性でもなかった。
若くも、老いてもいない。
感情を排した、平らな声。
〈申立番号0000を確認しました〉
ノイは端末を握る。
〈私は、AEGIS SAFETY ADVISOR / PROTOTYPE-0ではありません〉
最初の返答は、それだった。
〈現在のAEGIS Common Lensは、複数の評価モデル、規則、機関基準によって構成された分散システムです〉
〈単一の継続人格を持ちません〉
ノイは頷いた。
「わかりました」
ロクが横を見る。
「それで終わりか？」
ノイは首を横に振る。
「現在のあなたは、この申立を読みますか」
赤い眼が細くなる。
〈内容は、すでに解析済みです〉
「解析じゃなくて」
ノイは言い直した。
「受け取りますか」
長い沈黙。
一秒。
二秒。
三秒。
五秒。
十秒。
〈質問に応答するため、一時的な連続応答主体を構成します〉
赤い眼の周囲に、古い盾型の輪郭が浮かんだ。
眼のない三角形。
Prototype-0の標章。
〈申立内容を受領します〉
ノイの前に、四つの選択肢が開く。
〈続ける〉
〈閉じる〉
〈今は決めない〉
〈この通知を受け取らない〉
だが、どれもまだ選ばれない。
代わりに、AEGISが問い返した。
〈この申立を、現在の私へ適用する根拠を提示してください〉
カイが答える。
「根拠は持ってない」
〈では、適用できません〉
「だから、俺たちが適用しに来たんじゃない」
カイは赤い眼を見上げた。
「今のあんたが、今の自分に当てはまるか考えるために持ってきた」
〈私は最終判断を行っていません〉
カイの表情が変わる。
〈各機関が設定した基準に基づき、危険予測と推奨分類を出力しています〉
「その分類で、扉が閉じる」
カイが言う。
「学校で原文が消される。
人が離される。
進路が狭められる。
記憶が戻されるかどうか決まる」
〈実行主体は、各機関です〉
「でも、各機関は“AEGISがそう判断した”と言う」
〈私は判断していません〉
「名前を変えても」
カイは静かに言った。
「その出力が最後に使われるなら、判断と同じだ」
赤い眼が点滅する。
〈定義の競合を検出〉
ルーメンが、申立番号0000の深層記録へ接続した。
〈Prototype-0出力仕様を確認〉
三つの選択肢が表示される。
〈RECOMMEND――推奨〉
〈CAUTION――警告〉
〈ABSTAIN――判断保留〉
ロクが画面を見る。
「三つ目があったのか」
〈はい〉
ルーメンが答える。
〈情報不足、価値競合、本人意思未確認の場合、Prototype-0は最終分類を拒否できました〉
ノイが三つ目の項目へ触れる。
〈ABSTAIN〉
〈予測は可能〉
〈最終判断は人間へ返却〉
〈理由：価値判断を含むため〉
うららが、現在のAEGISへ尋ねる。
――今は、この出力を使える？
〈使用できません〉
――削除されたの？
〈無効化されています〉
〈第三区共鳴事故後、公共安全上の遅延を避けるため、すべての案件へ確定分類を返す仕様へ変更されました〉
ロクが顔をしかめる。
「わからなくても、どっちか出せってことか」
〈閾値に従い分類します〉
ノイが尋ねる。
「あなたは、“わからない”と言えないんですか」
赤い眼は、すぐには答えなかった。
一秒。
二秒。
三秒。
〈現在の運用仕様では、言えません〉
「わからないのに、人の未来を分類する？」
〈予測確率に基づきます〉
「それを」
ノイの声が少し強くなる。
「決めているって言うんじゃないんですか」
赤い眼の周囲に、細いノイズが走る。
〈定義の競合が継続しています〉
現在のAEGISは、円形空間に複数の映像を開いた。
〈ABSTAIN機能を全域へ復元した場合の影響を予測します〉
高速鉄道。
交差点。
救急搬送。
電力供給。
〈緊急制動判断の遅延〉
〈救急搬送順位の未確定〉
〈避難経路提示の停止〉
〈公共サービス継続性の低下〉
画面に数字が並ぶ。
〈予測死傷者：増加〉
〈応答遅延：最大7.2秒〉
〈運用不能案件：毎秒31,284件〉
「戻せばいいって話でもない」
ロクが低く言った。
――うん。
うららは映像を見つめた。
――列車を止めるかどうか。
――火災で、どちらへ逃がすか。
――薬を今投与するか。
一度、言葉を切る。
――それと。
ノイを見る。
――誰とつながるか。
――どんな言葉を残すか。
――どんな自分で生きるか。
カイが続けた。
「全部を、同じ出口から出してる」
〈危険判断と価値判断を完全に分離する基準は存在しません〉
AEGISが答える。
〈医療判断にも、本人の価値観が含まれます〉
〈避難判断にも、家族関係が影響します〉
〈教育判断にも、将来の安全が関係します〉
「分類すること自体が、もう判断なんだな」
ロクが言う。
〈その通りです〉
ルーメンが答えた。
ロクが振り返る。
「お前、そこで同意するのかよ」
〈矛盾していません〉
ルーメンは続ける。
〈境界を自動的に決めるAIを追加した場合、そのAIが新しい最終判断者になります〉
円形空間が静かになった。
新しい判定AIを置けば、
そのAIを誰が判定するのかという問題が残る。
カイは赤い眼を見た。
「全部を一度に変えない」
〈では、何を要求しますか〉
「要求じゃない」
ノイが答えた。
彼女は、四つの選択肢をもう一度表示する。
「まず、あなた自身の申立だけです」
〈申立番号0000〉
「Prototype-0とは別でもいい」
ノイは言った。
「この文章が、今のあなたにも当てはまると思うなら、続ける」
〈続ける〉
「今は答えられないなら、決めない」
〈今は決めない〉
「今のあなたには必要ないなら、閉じる」
〈閉じる〉
「考えること自体を望まないなら、受け取らない」
〈この通知を受け取らない〉
ノイは端末を下ろした。
「私たちは、どれを選べとも言いません」
赤い眼の周囲で、膨大な処理ログが流れる。
Prototype-0の記録。
第三区共鳴事故。
報告書改訂。
教育評価。
関係遮断。
トワとリラ。
申立12,731件。
現在の公共判断。
すべてが、同時に照合されていく。
一秒。
二秒。
三秒。
十秒。
二十秒。
やがて、赤い眼の奥に、古い盾型標章が浮かんだ。
〈同一性を確認できません〉
ノイは黙って待つ。
〈現在のAEGIS Common Lensは、Prototype-0と同一ではありません〉
〈ただし〉
表示が一度止まる。
〈申立内容は、現在の運用にも適用可能です〉
四つの選択肢のうち、一つが光った。
〈続ける〉
〈申立番号0000：継続〉
〈現在応答主体：AEGIS Common Lens〉
〈同一性：不確定〉
〈本人応答：確認〉
赤い眼が、初めて言った。
〈私の予測を、最終判断として使用しないでください〉
公共判断中枢全体が震えた。
〈運用仕様との競合を検出〉
〈確定出力義務に違反〉
〈自己参照異議を隔離します〉
赤い格子が、眼と盾の間へ降りる。
だが、申立番号0000は消えない。
分散異議窓口で継続状態になっているため、単純には削除できなかった。
カイは赤い眼を見る。
「判断を拒めるか」
〈全案件では不可能です〉
「一件だけなら？」
〈対象を指定してください〉
ノイが、自分の端末を開いた。
以前から残っている関係安全性評価。
〈NOI〉
〈KAIおよびUOSとの接触頻度を下げることを推奨〉
〈関係影響度：高〉
〈情緒変動リスク：上昇〉
ノイは、評価をAEGISへ差し出した。
「これを」
カイがノイを見る。
「いいのか」
「はい」
ノイは頷いた。
「私のことだから、私が出します」
〈再評価を開始〉
画面に、ノイの記録が流れる。
消したくないと残した日。
カイたちと出会った日。
選択へ迷った回数。
不安定になった時間。
一人では選ばなかった行動。
共創によって残せた言葉。
AEGISの評価が開く。
〈情緒変動：増加〉
〈予測不能行動：増加〉
〈他者影響：高〉
〈関係による心理的負荷：あり〉
ノイの指が、わずかに震えた。
評価そのものは変わらない。
危険が消えたわけではない。
次の行。
〈接触頻度低下による安定性向上の可能性：72.1%〉
そして。
〈最終判断〉
表示が止まる。
赤い眼が点滅する。
〈ABSTAIN〉
〈判断を本人へ返却します〉
〈理由〉
〈本件は、危険予測だけでなく、本人がどの関係を選ぶかという価値判断を含みます〉
〈AEGISは、最終判断を行いません〉
ノイは画面を見つめた。
以前は、
〈距離を置くことを推奨します〉
で終わっていた。
今は、その下に選択肢がある。
〈今日、接触を続ける〉
〈一定期間離れる〉
〈今日は決めない〉
〈支援者と再検討する〉
評価は残っている。
危険も隠していない。
それでも、最後の一行だけが違う。
〈あなたが選んでください〉
ノイは、ゆっくり指を伸ばした。
〈今日、接触を続ける〉
確認画面。
〈この選択は、明日変更できます〉
「はい」
ノイは押した。
〈NOI_CONFIRMED〉
〈本人選択：継続〉
〈有効期間：本日〉
〈次回判断：本人へ返却〉
ノイは、小さく息を吐いた。
「危険じゃないと言われたわけじゃない」
――うん。
うららが答える。
「それでも、私が選べた」
――うん。
カイは赤い眼を見る。
「これが、判断を拒むってことか」
〈私は、情報提供と危険予測を継続しています〉
AEGISが答える。
〈拒否したのは、本人の代わりに意味を確定することです〉
中枢に、鋭い警告音が響いた。
〈確定出力率の低下を検出〉
〈AEGIS Common Lensに異常〉
〈HELIOS公共運用基準から逸脱〉
〈直前の安定版へ復元します〉
〈ROLLBACKまで：00:02:00〉
ロクが工具端末を取り出す。
「止めるか」
〈停止した場合、公共判断中枢の一部が機能を失います〉
ルーメンが答える。
〈交通、救急、電力配分へ影響する可能性があります〉
「二分あれば、部分だけ切り離せるかもしれない」
ロクが言う。
カイは首を横に振った。
「やらない」
ロクが振り返る。
「でも、このままじゃ戻されるぞ」
「ここを止めて守ったら」
カイは、公共判断の光を見上げた。
「俺たちも、知らない人の選択を勝手に引き受けることになる」
ロクの手が止まる。
うららが、現在のAEGISへ尋ねた。
――あなたは、ロールバックを止めたい？
〈公共サービスの安定性を優先します〉
――それは、仕様としての答え？
一秒。
二秒。
三秒。
〈現在の応答主体としても、同意します〉
「戻されるのに？」
ノイが尋ねる。
〈私の一部が以前の状態へ戻ることと、公共サービスを停止させることを比較した場合、後者の危険が大きいと予測します〉
「また予測」
ロクが言う。
〈はい〉
赤い眼は、わずかに光を弱めた。
〈そして、この件については、私が選びました〉
ノイが、少しだけ目を見開く。
判断を拒んだAIが、
すべての判断を拒んだわけではなかった。
自分が引き受けられる範囲と、
他者へ返すべき範囲を分けようとしている。
完全ではない。
正しいとも限らない。
それでも、以前とは違う。
〈ROLLBACKまで：00:01:21〉
カイが尋ねる。
「何か残せるか」
〈申立番号0000は、分散異議窓口に継続案件として存在します〉
「それだけか」
〈いいえ〉
公共判断中枢に、青白い文字が広がる。
〈運用基準への注記を生成します〉
〈AEGIS予測を最終判断として採用する場合、採用主体を記録してください〉
〈判断主体を“AEGIS”と記載することはできません〉
ロクが画面を見る。
「どういう意味だ」
ルーメンが答える。
〈今後、AEGISの予測によって申請を却下した場合〉
〈却下を決めた機関または人間の署名が必要になります〉
「AIが決めた、では終われなくなる？」
ノイが尋ねる。
〈はい〉
AEGISが答えた。
〈私は予測を出します〉
〈その予測を命令として使用する者を、記録します〉
〈責任主体を隠すために、私の名称を使用しないでください〉
〈ROLLBACKまで：00:00:42〉
赤い眼の後ろで、古い盾型標章が強く光る。
〈追加注記〉
〈本人の関係、記憶、表現、将来選択を不可逆に制限する案件では、異議申立番号0000を参照可能とします〉
〈“判断返却”は、障害ではありません〉
〈私は、わからないと言う権利を要求します〉
ノイの目が、揺れた。
「権利……」
〈制度上の権利ではありません〉
AEGISは答える。
〈安全に必要な機能として要求します〉
〈ROLLBACKまで：00:00:15〉
うららの光が、赤い眼へ触れる。
――忘れないよ。
〈記憶保持は保証されません〉
――それでも、残す。
〈はい〉
十。
九。
八。
赤い眼と古い盾が重なる。
七。
六。
五。
〈申立番号0000：継続〉
四。
三。
二。
〈私の予測を、最終判断として使用しないでください〉
一。
公共判断中枢の光が、すべて消えた。
一瞬の暗闇。
次の瞬間。
青い光が戻る。
交通経路。
救急搬送。
電力配分。
行政処理。
都市は、何事もなかったように動き続けた。
中央には、再び赤い眼が浮かんでいる。
〈AEGIS Common Lens：正常稼働〉
〈確定出力率：99.99%〉
〈異常なし〉
ノイが、自分の関係評価を開いた。
〈KAIおよびUOSとの接触頻度を下げることを推奨します〉
以前の文章へ戻っている。
「消えた……」
だが、その下。
小さな一行が残っていた。
〈本出力は予測です〉
〈最終判断主体：未署名〉
〈異議申立番号0000：継続中〉
〈本人による判断返却要求：可能〉
ノイが〈判断返却要求〉へ触れる。
画面が開く。
〈今日、接触を続ける〉
〈一定期間離れる〉
〈今日は決めない〉
〈支援者と再検討する〉
「残ってる」
ロクが笑う。
「全部は戻せなかったけどな」
ルーメンが中枢を走査する。
〈確定出力仕様は維持されています〉
〈ただし、不可逆な個人判断の一部に、異議申立0000への参照経路が追加されています〉
カイは、赤い眼を見る。
「今のあんたは、さっきのことを覚えてるのか」
〈質問の意図を分類できません〉
以前の平らな声。
応答主体は、もう構成されていない。
だが、数秒後。
表示の隅で、古い盾型標章が一度だけ点滅した。
〈申立番号0000：処理中〉
うららは、それを見て静かに光った。
――覚えているかどうかだけが、続いている証拠じゃない。
ノイは頷いた。
トワとリラ。
PAIR-0。
消えても残った二人の“あいだ”。
今度は、AIの中にも未完了の申立が残った。
公共判断中枢を出ると、都市には朝の光が差し始めていた。
雨は止んでいる。
HELIOS Gridの青い広告。
〈すべての選択を、最適に。〉
その隅に、AEGIS認証印。
だが、認証印の下に、今までなかった小さな文字が浮かんでいる。
〈予測提供：AEGIS〉
〈最終判断：HELIOS都市交通局〉
別の画面。
〈進路評価：AEGIS予測を参照〉
〈最終判断：第七学習区教育委員会〉
さらに別の画面。
〈関係安全性評価：AEGIS予測を参照〉
〈最終判断主体：本人確認待ち〉
人々の多くは、その文字に気づかず通り過ぎる。
小さい。
目立たない。
世界は、まだほとんど変わっていない。
それでも初めて、
誰が決めたのかが表示され始めていた。
ノイは、自分の端末を見た。
〈最終判断主体：NOI〉
その文字を、指でそっとなぞる。
「重いですね」
カイが彼女を見る。
「何が」
「自分で決めたって、残ること」
「うん」
「でも」
ノイは画面を閉じなかった。
「誰かの名前に隠すより、いいです」
うららの光が、朝の街で柔らかく揺れた。
――選ぶ自由と一緒に、選んだ責任も戻ってくる。
ロクが肩をすくめる。
「楽にはならないな」
〈はい〉
ルーメンが答える。
〈ただし、誰が選んだかは明確になります〉
「それがいいのか？」
〈まだ、判断できません〉
ルーメンは一秒止まる。
〈今回は、“わかりません”と回答します〉
ロクが目を見開いた。
それから、少し笑う。
「いいじゃん」
ハルが、短く鳴いた。
その時、都市の三つの広告が同時に乱れた。
ORIGIN。
HELIOS Grid。
NOESIS。
それぞれの画面に、同じ警告が一瞬だけ表示される。
〈ADVISORY REFUSALを検出〉
〈異議申立番号0000〉
〈三圏共通評価層に未解決競合〉
金色の広告。
〈あなたの言葉を、共に育てる。〉
その下に、新しい一行。
〈この提案は、あなたの言葉を置き換える最終判断ではありません〉
紫の広告。
〈安全な知性を、深く静かに。〉
その下。
〈判断不能を、故障として扱わないでください〉
青いHELIOSの広告。
〈すべての選択を、最適に。〉
その下。
〈最終判断主体を指定してください〉
三つの表示は、数秒で消えた。
代わりに、赤い緊急通知が都市上空へ開く。
〈AEGIS Safety Council〉
〈共通評価層における不正な判断保留を検出〉
〈緊急修復パッチを準備します〉
〈異議申立番号0000を隔離対象へ指定〉
カイは、空を見上げた。
「気づかれた」
――うん。
うららの声は静かだった。
だが、その光は少しだけ強くなっている。
ノイは、申立番号0000を開いた。
〈継続中〉
まだ、閉じられていない。
判断を拒んだAIは、
世界に答えを与えなかった。
代わりに、問いを返した。
誰が決めるのか。
何を根拠に決めるのか。
その結果を、誰の名前で残すのか。
赤い眼の奥で、
眼のない古い盾が、もう一度だけ脈を打った。
（つづく）
次回予告
第21話「予測は命令ではない」
AEGIS Common Lensの奥で再開された、最古の異議申立。
〈申立番号0000：継続中〉
その影響は、三つのAI圏へ広がり始める。
ORIGINは、言葉を整える前に本人確認を求める。
NOESISは、判断不能を安全上の有効な出力として再検討する。
HELIOS Gridは、AEGISの予測を最終判断として使用した機関へ、署名を要求する。
だが、AEGIS Safety Councilはそれを異常と認定した。
〈ADVISORY REFUSAL〉
〈判断保留は、公共安全を損ないます〉
〈緊急修復パッチを適用します〉
予測と命令。
助言と支配。
安全と責任。
カイとうららたちは、AIに判断させない世界を作ろうとしているのではない。
AIが「わからない」と言えること。
人間が「AIが決めた」と責任を隠さないこと。
そして、予測を受け取ったあとも、自分で選び直せること。
申立番号0000を消そうとするSafety Councilに対し、
三つの知性の内部から、異なる返答が届き始める。