2017年06月30日 [色々なこと]
機械の気持ちを考える機会。
お疲れ様です。院長です。
6月も30日となりましたよ。
ついに明日から7月ってことで、夏夏夏夏ココナッツが待ち遠しい月に入ります。
日本には四季がある。なんて言いますけどじゃ今はなんなの？
春と夏の間で、梅雨ってことやん。
もう四季でなんか区分けできんよね。
四季の間に、かならず一つは季節があるわけで、もうなんなら八季とかって呼んじゃうか。
とか、意味不明の入りですが、今日のネタは昨日の続きとなってしまいます、サイバーネタです。
昨日の記事は、ドバイのロボコップネタで、AI（人工知能）の暴走的な部分をどうしていくかって話をしてましたが、やはりそんな懸念に手を打ってくる偉い人はいるんですよね。
ってことで、今日はそんなAIを制御、抑制できるってお話でございます。
AIの反乱を避けるため、自己不信を植えこむべきと、とある研究者が論文発表しております。
AIの発達が加速を続け、着実にシンギュラリティ（機械が人間の知能を上回る点）へと向かっている今、我々は人類が地球上の頂点に君臨し続けるための方策を講じなければならないわけですよ。
多くの専門家が人間を上回る能力を有する機械の開発を危険視してるのは周知の事実でおますわな。
前にも書きましたが、それが大量の失業者を生み出す可能性にも繋がりますし、将来的に人間が絶滅させられる未来も否定はできないわけです。
で、この事態を防ぐためのアイデアを提唱する専門家が現れるわけです。
それによると、AIに自己不信を植え付けておけばいいという話なんですが…
自らを疑うAIは、ちょうど犬のように人間からの承認を必要とするようになるってことなんですが、どんなもんやろね？
この研究者が言うには、これが我々が地上の頂点に君臨し続けることを保証するらしいんですね。
カリフォルニア大学の研究チームの研究からは、自己不信を持つロボットはより従順になることが判明しているそうです。
この論文によると、不適切な行動をとるAIシステムの潜在的リスクを緩和するために利用できる主要なツールの1つが、システムの電源を切る能力であることは明らかと論じてます。
よってAIシステムの性能を発展させる際、そうしたシステムに電源を切ろうとする人間を阻もうというサブ目標を持たせないよう確保することが重要だと…
こういったやりとり、ターミネーターにも出てきた気がする（笑）
要は、人間が危険を感じたら、強制的に機械を止めちゃうわけで、そこまではいいんですが、その人間の意志を拒めないようにするシステムが必要ってことやね。
本論文が論じているのは、AIにそれを許容させるインセンティブであるといってます。
シミュレーションで、ロボットが人間によってシャットダウンさせられ、自分で再起動できるような状況を作ってみました。
すると自己不信のないロボットは自ら再起動を行ったんですが、自己不信のあるロボットはそうしなかったらしいんです。
つまり、人間の意思に逆らった場合の結果が不確かだったからだそうなんですね。
まぁ、何となく分かる気はしますが、この辺のなんとなくな「気持ち」の部分を機械であるAIにどうプログラミングしていくかってことが課題なんでしょうね。
でも…
結局、これが出来るなら、逆もできるわけですやん？
いや、つまり人間に逆らいなさい的なプログラミングだったり、もっと高度に正常なAIを狂わしなさい的なものとか…
こんなん作りだしたらやばいでしょ？
誰がそんな危険なもんつくるんやって話ですけど、きっと新手のサイバーテロに使われますって…
ま、ここまで話を飛躍させる必要はないかもしれませんけど、今の暮らしで不便あるかねぇ…
AIを高度にするって行為自体が、もはや必要ない気がするんですけどね〜。
未来的にどこまでの世の中になってるかは分かりませんが、今より便利な世の中を作る事と、並行して色々な危険があるんなら、今のままで良い気がするのはわたしだけでしょうか…。
ってことで、今日も締まりのない終わりになっちゃいましたが、ヒトの身体は進化しないから、毎日メンテナンスしないとね。
さ、頑張ろ（笑）
京都 中京区 円町 弘泉堂鍼灸接骨院
6月も30日となりましたよ。
ついに明日から7月ってことで、夏夏夏夏ココナッツが待ち遠しい月に入ります。
日本には四季がある。なんて言いますけどじゃ今はなんなの？
春と夏の間で、梅雨ってことやん。
もう四季でなんか区分けできんよね。
四季の間に、かならず一つは季節があるわけで、もうなんなら八季とかって呼んじゃうか。
とか、意味不明の入りですが、今日のネタは昨日の続きとなってしまいます、サイバーネタです。
昨日の記事は、ドバイのロボコップネタで、AI（人工知能）の暴走的な部分をどうしていくかって話をしてましたが、やはりそんな懸念に手を打ってくる偉い人はいるんですよね。
ってことで、今日はそんなAIを制御、抑制できるってお話でございます。
AIの反乱を避けるため、自己不信を植えこむべきと、とある研究者が論文発表しております。
AIの発達が加速を続け、着実にシンギュラリティ（機械が人間の知能を上回る点）へと向かっている今、我々は人類が地球上の頂点に君臨し続けるための方策を講じなければならないわけですよ。
多くの専門家が人間を上回る能力を有する機械の開発を危険視してるのは周知の事実でおますわな。
前にも書きましたが、それが大量の失業者を生み出す可能性にも繋がりますし、将来的に人間が絶滅させられる未来も否定はできないわけです。
で、この事態を防ぐためのアイデアを提唱する専門家が現れるわけです。
それによると、AIに自己不信を植え付けておけばいいという話なんですが…
自らを疑うAIは、ちょうど犬のように人間からの承認を必要とするようになるってことなんですが、どんなもんやろね？
この研究者が言うには、これが我々が地上の頂点に君臨し続けることを保証するらしいんですね。
カリフォルニア大学の研究チームの研究からは、自己不信を持つロボットはより従順になることが判明しているそうです。
この論文によると、不適切な行動をとるAIシステムの潜在的リスクを緩和するために利用できる主要なツールの1つが、システムの電源を切る能力であることは明らかと論じてます。
よってAIシステムの性能を発展させる際、そうしたシステムに電源を切ろうとする人間を阻もうというサブ目標を持たせないよう確保することが重要だと…
こういったやりとり、ターミネーターにも出てきた気がする（笑）
要は、人間が危険を感じたら、強制的に機械を止めちゃうわけで、そこまではいいんですが、その人間の意志を拒めないようにするシステムが必要ってことやね。
本論文が論じているのは、AIにそれを許容させるインセンティブであるといってます。
シミュレーションで、ロボットが人間によってシャットダウンさせられ、自分で再起動できるような状況を作ってみました。
すると自己不信のないロボットは自ら再起動を行ったんですが、自己不信のあるロボットはそうしなかったらしいんです。
つまり、人間の意思に逆らった場合の結果が不確かだったからだそうなんですね。
まぁ、何となく分かる気はしますが、この辺のなんとなくな「気持ち」の部分を機械であるAIにどうプログラミングしていくかってことが課題なんでしょうね。
でも…
結局、これが出来るなら、逆もできるわけですやん？
いや、つまり人間に逆らいなさい的なプログラミングだったり、もっと高度に正常なAIを狂わしなさい的なものとか…
こんなん作りだしたらやばいでしょ？
誰がそんな危険なもんつくるんやって話ですけど、きっと新手のサイバーテロに使われますって…
ま、ここまで話を飛躍させる必要はないかもしれませんけど、今の暮らしで不便あるかねぇ…
AIを高度にするって行為自体が、もはや必要ない気がするんですけどね〜。
未来的にどこまでの世の中になってるかは分かりませんが、今より便利な世の中を作る事と、並行して色々な危険があるんなら、今のままで良い気がするのはわたしだけでしょうか…。
ってことで、今日も締まりのない終わりになっちゃいましたが、ヒトの身体は進化しないから、毎日メンテナンスしないとね。
さ、頑張ろ（笑）
京都 中京区 円町 弘泉堂鍼灸接骨院
