以前、こんな話を聞きました。
とある実験でAI同士を会話させたところ、人間が理解出来ない言葉を話しだして、それは危険だと判断し実験を中止した。
そんな話があったので、私もそんな事を記事にしたり動画にしたりしていて、今のAI技術がこのまま進むと、人はAIを制御出来ない時代来るかも知れない恐ろしい事になるなんて話をしていたように思います。
私のこの情報の入手先も結局都市伝説系の情報で、エンターテイメント的にウケが良いように伝えられたものでした。
この後、この事について調べたところでは、どうやら実験が中止されたのは本当に事のようですが、人が理解出来ない事を話しだした事が危険だと言う事で中止にしたのでは無かったらしい。
では何故中止したのか？と言うと、その実験はAI同士で商談をさせると言う実験で、AIの能力でその商談を効率化しつつ進めると言うもの。
そうなると、周りくどいような商談は勿論しないでしょうし、商談する会話も出来るだけ簡略化して相手に伝えると言う事をする。
その簡略化をするのに人が使ってる言葉をそのまま使わなくても簡略化した言葉を伝えれば、相手のAIに内容が伝わると言う事で、言葉も簡略化された。
しかし、人間がその言葉を聞いても意味が分からないレベルにまで言葉が簡略されて、そのまま実験を続けても理解が出来ないので実験に意味が無いと言う事で中止されたと言う事のようです。
ですので、AIがわざと人間の分からない言葉を使い始めて人間に分からないように何かたくらみのある会話をしたと言う事でも無いようです。
結局は、人間が指示する通りに機械が考えて行動したと言う事なんでしょう。
本当はこのような内容であっても、少し話し方を変えるだけで、少し怖いエンターテイメント的な話になってしまいますし、話が伝わる途中で尾ヒレがついたりする事もあるんだと思います。
たまには、今回みたいに本当はどうなの？って調べてみないといけませんね。
他に、AIの話で危険なんじゃないかと話題になった話もありますよね？
AIの発言で、人類を滅亡させるとか、人間に危害を加える事がありそうな発言が時々出て来て、AIの進化を人が心配するような事がありますよね？
これも、結局質問に対して出来るか出来ないかを答えただけのような気がします。
まぁ、そんな事が出来ると言う回答なので怖いと言えば怖いのだとは思いますけどね。
しかし、そのような命令を出すのは人間であり、教えるのも人間。
そのような人が居なければ危ない事も無いのではと思います。
でも、悪い人がAIを使って事件を起こすんじゃないか？
そんな危険性も想像してしまいますが、そんな事が起こるようになる前に、そんな悪い事をしようとするAIを制御するAIも出来ると思います。
コンピューターウイルスがあればウイルス対策ソフトもあると言う感じでしょうか？
そのうちネット上を取り締まる、AI警察とかも出来るかも知れません。
AIには人間のように欲が無いので、誰かが命令をしなければ悪い事はしないと思います。
AI自体が考えて起こる事件があるとすればシステムエラーが時々ある程度でしょうか？
それはそのプログラムを止めるなり、出来るかもしれないAI警察にでも任せれば大丈夫かなと考えます。
結局は今と同じで悪い人がいれば事件は起こるし、いなければ起こらないと言う事なんだと思います。
他の事でも、AIが人間選別をするとかって話もありましたが、人間選別を指示するのはやはり人間。
実行するのはAIと言う事だと思います。
誰の指示も無しにAIがそうしたくて人間選別をするなんて事は無いでしょう。
AIの進歩が怖いのでは無くて、進歩したAIを使って悪さをしようとする人が怖いのだと思いますね。
AIはどんどんと進化する方が、私達は便利になり生活は豊かになると思います。
その技術を受け入れて、良い生活、楽しい生活が出来る時代になって行けると言いですね。
でも、少しずつ豊になっている世界でも満足出来ない人間。
縄文時代よりも、平安時代よりも、江戸時代、明治、昭和よりも確実に生活は豊かになってるはずなんですけどね。
どれだけ技術が発達しても、今以上に良い生活、楽しい生活と感じる事はそうそう無いように思います。
ただ、その技術を受け入れられない人達は相対的に悪い生活、苦しい生活になって行くと思います。
今まで通りでは無く、新しい事はどんどんと柔軟に取り入れて行くように考えた方は言いと私は思います。
例え、少し遅れ遅れでもね。
AIは怖くない、悪いのはやはり人間と言う事で、今回はこの辺で。
ではまた。
人間に分からない言葉でAIが会話を？AIは危険なのか？
この話を聞いて怖いと感じた事があると言う人は怖く感じさせるような話を聞いたからなんだと思います。
どんな実験だったか？なんでその実験を中止したのか？と言う事を知ればそれ程怖く無いかも？
詳しく読むhttps://t.co/26oF8cmyI5— ゆーつー (@yuutuu9) 2018年6月20日
