2017年07月24日 [色々なこと]
Hasta la vista, future.
お疲れ様です。院長です。
7月24日の月曜日となっております。
7月も最終週に突入し、いよいよ暑さに拍車がかかってきやがるでしょう。
みなさんも、熱中症、脱水には十分ご注意を〜。
ってことで、今日も始まりましたが、ほんと毎日暑いっすね。
ま、夏やし。
て、この時期、天気と暑さについて書かないわけにはいかない感満載なんやけど、内容的にはいつも全然違うんだよね。
今日のネタは、ついこの前に書いたネタの続編ともいえるサイバーネタをお送りしましょう。
フェイスブック社が脳からの直接入力が可能になる心を読むテクノロジーの開発に取り組んでいるというお話を、数日前のブログに書きましたが、これ以外にも人工知能（AI）を使った様々な研究が進行中で、まぁ関係各位様々な意見が飛び交っております。
フェイスブック人工知能研究所の報告書によると、人間との会話をシミュレーションする開発中のAIチャットボット「会話エージェント」に機械学習を用いて交渉のやり方を教えていたところ、最初は非常に順調に進んでいたのだが、ある時点でそれらの調整をせざるを得なくなるという事態が起こったそうです。
なぜなら途中からチャットボットが、人間には理解できない独自の言語を作り出し、その言葉を使って交渉をし始めたからだというから、もうこれは驚きを通り越して恐怖やな（笑）
これもう完全にアカンやつやん。
え〜、この実験は、2つのチャットボットに会話を行わせ、同時に機械学習で継続的に会話の内容等を反復させていたんだそうです。
その結果、独自の「非ヒト言語」によるコミュニケーションが発生したんだそうです。
まるでSF映画さながらの展開。
今回の研究で、チャットボットが優れたネゴシエーター（交渉者）になれるということが判明しました。
価値のないものに対して関心のあるそぶりを装ったり、駆け引きをしかけ、ある程度譲歩することで、相手からの妥協を引き出したりすることもできたんだそうです。
ですが、人間には理解できない言葉を作り出し、それで会話を行っていくという、ある意味AIの暴走ともいえるこの行為は、「良からぬことが起こるかもしれないサイン」ですよねぇ…。
もう、アカン気しかせんもんね。
こうやって人間には分からない言語で、AIどおしが会話して人間への反乱を計画するなんて、やはしターミネーター感アリアリやし。
まぁ、フェイスブック社のチャットボットはまだ開発段階ですし、いわゆる「技術的特異点」が訪れたってわけでもないですし、それが間近に迫ったことを意味するわけでもないんですが…
しかしそれは、かつて人間のみに属するとされた領域（言語など）における人の理解を、機械が再定義するやり方を示しているといえなくもないでしょう。
すでに、機械学習の研究では数多くの推定作業が行われていますが、それはしばしばニューラルネットに膨大なデータを与え、その結果を検証して、機械の思考を理解するという手順ですすみます。
しかし機械が会話において独自の非ヒト言語を作り出すという事実は、その作り主である我々ですら、そうしたシステムをほとんど理解していないということを教えてくれているということなんでしょう。
AIの危険性を力説している学者や、関係機関は多いですが、まだ開発段階にあるAIですら、我々が理解できない挙動を見せるということはやはり要注意事案といえるでしょう。
いうても、これって完全にAIの暴走やもんね。
今まだは、あったらどうする？的な中での話でしたが、もうほんまに「あった」んやからねぇ…。
これをうけ、開発者たちがどう対応していくのかは、全くわたしにゃ分かりませんが、独自の言語を作りだせるって時点で、完全に個別の「思考」が生まれてるわけですしねぇ…
もう何かを超えてきた感しか感じませんが、これからの開発にさらなる注意が必要なのはいうまでもないところでしょう。
サイバーダインはどこへ向かうのか… Hasta la vista, baby
京都 中京区 円町 弘泉堂鍼灸接骨院
7月24日の月曜日となっております。
7月も最終週に突入し、いよいよ暑さに拍車がかかってきやがるでしょう。
みなさんも、熱中症、脱水には十分ご注意を〜。
ってことで、今日も始まりましたが、ほんと毎日暑いっすね。
ま、夏やし。
て、この時期、天気と暑さについて書かないわけにはいかない感満載なんやけど、内容的にはいつも全然違うんだよね。
今日のネタは、ついこの前に書いたネタの続編ともいえるサイバーネタをお送りしましょう。
フェイスブック社が脳からの直接入力が可能になる心を読むテクノロジーの開発に取り組んでいるというお話を、数日前のブログに書きましたが、これ以外にも人工知能（AI）を使った様々な研究が進行中で、まぁ関係各位様々な意見が飛び交っております。
フェイスブック人工知能研究所の報告書によると、人間との会話をシミュレーションする開発中のAIチャットボット「会話エージェント」に機械学習を用いて交渉のやり方を教えていたところ、最初は非常に順調に進んでいたのだが、ある時点でそれらの調整をせざるを得なくなるという事態が起こったそうです。
なぜなら途中からチャットボットが、人間には理解できない独自の言語を作り出し、その言葉を使って交渉をし始めたからだというから、もうこれは驚きを通り越して恐怖やな（笑）
これもう完全にアカンやつやん。
え〜、この実験は、2つのチャットボットに会話を行わせ、同時に機械学習で継続的に会話の内容等を反復させていたんだそうです。
その結果、独自の「非ヒト言語」によるコミュニケーションが発生したんだそうです。
まるでSF映画さながらの展開。
今回の研究で、チャットボットが優れたネゴシエーター（交渉者）になれるということが判明しました。
価値のないものに対して関心のあるそぶりを装ったり、駆け引きをしかけ、ある程度譲歩することで、相手からの妥協を引き出したりすることもできたんだそうです。
ですが、人間には理解できない言葉を作り出し、それで会話を行っていくという、ある意味AIの暴走ともいえるこの行為は、「良からぬことが起こるかもしれないサイン」ですよねぇ…。
もう、アカン気しかせんもんね。
こうやって人間には分からない言語で、AIどおしが会話して人間への反乱を計画するなんて、やはしターミネーター感アリアリやし。
まぁ、フェイスブック社のチャットボットはまだ開発段階ですし、いわゆる「技術的特異点」が訪れたってわけでもないですし、それが間近に迫ったことを意味するわけでもないんですが…
しかしそれは、かつて人間のみに属するとされた領域（言語など）における人の理解を、機械が再定義するやり方を示しているといえなくもないでしょう。
すでに、機械学習の研究では数多くの推定作業が行われていますが、それはしばしばニューラルネットに膨大なデータを与え、その結果を検証して、機械の思考を理解するという手順ですすみます。
しかし機械が会話において独自の非ヒト言語を作り出すという事実は、その作り主である我々ですら、そうしたシステムをほとんど理解していないということを教えてくれているということなんでしょう。
AIの危険性を力説している学者や、関係機関は多いですが、まだ開発段階にあるAIですら、我々が理解できない挙動を見せるということはやはり要注意事案といえるでしょう。
いうても、これって完全にAIの暴走やもんね。
今まだは、あったらどうする？的な中での話でしたが、もうほんまに「あった」んやからねぇ…。
これをうけ、開発者たちがどう対応していくのかは、全くわたしにゃ分かりませんが、独自の言語を作りだせるって時点で、完全に個別の「思考」が生まれてるわけですしねぇ…
もう何かを超えてきた感しか感じませんが、これからの開発にさらなる注意が必要なのはいうまでもないところでしょう。
サイバーダインはどこへ向かうのか… Hasta la vista, baby
京都 中京区 円町 弘泉堂鍼灸接骨院
