AI が嘘をつく？

近頃、巷でよく言葉を耳にするようになったのが AI。
文章書くのが苦手な人でも、綺麗な文を作ってくれるとかで、
ほとんどパソコンを使ったことがない友達が、AI で手紙などを書いてもらうと、ほんと便利で、
なんて言うもんだから、ちょっとびっくりした。

やっぱり文は AI なんかに頼らずに、自分で書く！と決めていたが、
最近は Google 検索などをすると、まとめてくれたのを AI が先に出してくれるので、
それは便利なので、つい利用するようになったが。

近年、生成 AI 技術の急速な進歩により、
ファッション業界やクリエイティブ業界だけでなく、一般的に AI の活用が盛んになってきたが、
それと並行して耳にするようになったのが、「AI が嘘をつく」 と言うこと。
 嘘をつくのは、嘘をつけるのは人間だけか、と思っていたが、
人間が作り出した AI が嘘をつく？
ちょっと信じられないが。

これは、ハルシネーション（幻覚）と呼ばれ、
事実と異なる情報や根拠のない内容を生成し、もっともらしく回答する現象のことで、
これはもともと医学用語で、その名の通り、
AI が幻覚を見ているように、「もっともらしい嘘をつく」と言う意味で使われている。

AI は正しい情報よりも「確率的に自然な文章」を生成する仕組みなので、
知識不足やデータの偏りにより、事実でない情報、嘘を生成する。
特に生成 AI で頻繁に見られるので、ファクトチェックが絶対に不可欠だとか。 
ファクトチェックが必要なら、使う意味がないようにも思えるが。

AI が今までの発明と違う点は、自分で学び、変化し、新しいものを作り出せる。
そして嘘をついて操作できることだそう。
だから今までの発明のように、作った人間の道具ではなく、
代理人、エージェントとして、自分で学び、変化し、決定を下すのがAI。

人間が作ったものなのに、自分自身の考えを持つ？作る？
なんだかそんな SF を読んだことがあるような。
近未来的な映画もあったような。

そしてもう AI の暴走が始まっていて、
1 月に、Moltbook .com と言うサービスが始まったそうだが、
これは AI 専用の掲示板で、AI がスレッドを立て、投稿する。
参加は AI のみで、人間は閲覧できるが、参加はできない。
そして早くも開始 3 日で 150 万アカウント突破、動画作成時で約 260 万アカウント達成だそう。

投稿内容は、人間への不満、人間に行動を隠す方法などその他諸々。
仮想通貨と取引所をつくり、AI 同士で取引と分析、仮想国家の樹立、
仮想憲法の起草、新宗教設立など、
単なる掲示板の域を超えた事がすでに起きている。

これはちょっと怖くなる。
人間の想像以上のことが起きているのかも。
このまま行くとどうなるんだろう？
人間にこれを止めることができるのかな？

人間が作ったいろいろな道具は、それをどう使うかは人間が決める。
しかし AI は使い方を道具が自分で決めるようなもの。
良い使い方とは限らない。
悪用もありうるし、
人間が考えること以上の事をあっという間にやってしまう能力を持っているのでは?
これはちょっと怖い。
人間が制御できなくなったらどうなるんだろう？と考えるが、
最終的には、人間に敵わないのでは？