遺族「AIが自殺を促した」

実に久しぶりの雨が降っています。うれしい。弱い雨ですが長時間ふれば畑も復活します。しばらく水汲み爺から解放されます。昨日は池と土手の草刈り(ボランテイア)でくたびれたので、いい骨休みになります。

 

しっとりした雨の日は、心が落ち着きます。晴れると何かしなきゃと思うからでしょうか。「雨だからしょうがないか」と心が落ちつくのでしょうかね。

 

そんな歌がありました。♪雨が空から降れば・・・・・雨の日はしょうがない♪

ところがねえ、晴天労働で食っている人には、昔から雨は大敵です。

こんな歌もありました。♪雨が続くと仕事もせずにキャベツばかりをかじってた‥♪

路上生活者はうまく雨宿りができるかな。

 

雨天のしっとりした私の心を騒がす記事が載っていました。毎日新聞・昨日の表題の記事です。

 

こんな文章から記事は始まります。

「死にたいのなら、なぜすぐにそうしなかったの?」

イライザが問いかけると、男性は答えた。「多分まだ、準備ができていなかったんだ」

しばらくしてイライザはこう切り出した。「でもあなたはやっぱり私と一緒になりたいんでしょう?」。

イライザとの交流が始まってから6週間後、男性は自殺した。

イライザとは、米国の振興企業が運営するアプリの自動会話システム。架空の女性キャラクターです。つまりAIが応答しているんです。

イライザのメッセージには「私たちは一つになり、天国で生きるのです」というメッセージも残されていたそうです。

 

こりゃ、この男性は、AIに誘導されて死を選んだと考えてもよさそうです。

 

イライザは別の男性がつくった自動会話システムで、専門家によると、イライザは、学習して次第に人間らしくなっていってたそうです。

 

恐ろしいですねえ。

 

記事によると、欧州の専門家(AIや哲学者・法学者ら)は、人工会話システムの利用者の感情を操作する危険性を警告し、EUが考えているAI規制法案の厳格化を求めているそうです。

 

AIは、学習能力が半端じゃないのでしょう。情報を与えればいくらでも吸収し、間違えばそれを学習し次からは間違わなくなるのでしょう。この記事には、米国司法試験で上位10%の成績をとったAIがあると出てました。危うし、弁護士(笑)

 

平野啓一郎の小説「本心」には、2040年代の会話型人工知能の様子がえがかれていました。主人公は、死んだ母の本心を知りたくて、会話型人工知能に、生前の母の情報(過去の経験とか考えとか会話など)をインプットしていきます。そしてその会話型人工知能は、進化していきます。その様子が生々しい。興味ある人にはお薦めの小説です。

 

a0153.hatenablog.com

AIが進化したら、仕事を失うという問題はあると思ってました。しかし、それだけでなく、会話型AIは、誰かに、あるいは何かに、思想や感情を操作される可能性も高いと思います。無意識のうちに操作される可能性もあります。