スーパー秋葉原

サブURL(このURLからもアクセスできます):http://akihabara.areablog.jp/himiko

自動運転車をだましましょう



このままいけば、近い将来、ほとんどの自動車が自動運転車にとって代わるだろう。特に交通事故の軽減が期待されている。

だが、自動運転車ゆえの落とし穴が存在する。

イギリスのアーティスト、ジェームズ・ブライドル氏は、自動運転車にこんな罠をしかけてみた。白線を描きそこに自動運転車で乗り込んでいくのだ。

さてどんな結果がおきるのか?

自動運転車が最初に学習すべきことは、道路に引かれた線の解釈についてだ。つまり車線の境界だったり、追い越し可能/禁止車線だったりといったことだ。

ジェームズ・ブライドル氏が明らかにしているのは、文脈のない知識の限界である――これは現代の人工知能に内在する問題でもある。

外側に破線の円、内側に実線の円

人口知能は、まず道路の最も重要なルールとして、反対が破線である白線を越えてはならないと学ぶ。一方、破線の側からは越えることができる。

しかし動画にある内側を実線で、外側を破線で描いた円には何の意味もない。また、これが塩で描かれているのは偶然ではない。

古来より、精霊や悪魔を召喚したり、捕縛したりする魔法陣は塩や灰で描かれてきた。あとは秘密の呪文を知っていれば、そうした存在に打ち勝つ力を得ることができるのだ。

罠にかかって動けなくなってしまった自動運転車

動画でも、単純なシンボルで自動運転車を”捕縛”することに成功している。何者かが魔法陣を破壊するか、運転席に乗り込んでAIから制御を奪わない限り、自動運転車はそこから脱出することができない。

自律システムが世界を乗っ取ってしまった遠い未来を想像してみてほしい。人工知能の仕組みについての知識はとうに忘れ去られている。

その時代に暮らす無知な人々にとって、こうした単純なトラップはまるで魔法のように見えるだろう。

前に紹介したように、自動運転車にはもし事故が起こりそうになった場合、誰を優先して助けるべきかのジレンマ問題がある。

他にもAIの動作を阻むシンプルなトリックはあるだろうか? 

我々はどうやってその脅威から身を守ればいいだろうか?

AIに対する犯罪はどう裁かれるだろうか? 

暴行、それとも器物破損? 

奇妙な時代はもう直ぐだ。




goodポイント: 0ポイント

このポストをお気に入りに追加 0人がお気に入り登録中
このポストのURL http://akihabara.areablog.jp/blog/1000007455/p11583179c.html
日記

■同じテーマの最新記事
空気注入で死にました
ガスだまり
ずぼらママ必見
このブログトップページへ
ブログイメージ
akihabara
前年  2017年 皆勤賞獲得月 翌年
前の年へ 2017年 次の年へ 前の月へ 4月 次の月へ
1
2 3 4 5 6 7 8
9 10 11 12 13 14 15
16 17 18 19 20 21 22
23 24 25 26 27 28 29
30
今日 合計
ビュー 79 993790
コメント 0 0
お気に入り 0 3

カテゴリー一覧

お気に入りリスト

おすすめリンク

キーワード

|

外苑東クリニック
東京 人間ドック