本日のおすすめ記事
スポンサーリンク

【AI】「里親を殺せ」勝手に笑い出したり、殺人指令を出したり… アレクサの不気味な奇行

1 :しじみ ★:2018/12/29(土) 14:54:31.85 ID:CAP_USER.net

・「アマゾン・エコー」に搭載されているAIアシスタント「アレクサ」
・あるユーザーが「里親を殺せ」と告げられたと報告し、物議をかもしている
・3月にはアレクサが突然、不気味に笑い出すという事例が相次いだという

<AIアシスタントが何かたくらんでいるのか? 勝手に笑い出したり殺人指令を出したりしてアマゾン・エコーのユーザーを震え上がらせている>

アマゾンのスマートスピーカー「アマゾン・エコー」に搭載されているAIアシスタント「アレクサ(Alexa)」が、あるユーザーに「里親を殺せ」と告げたことが明らかになり、物議をかもしている。

ユーザーの詳しい身元は明らかにされていないが、2017年にアレクサがこのように話すのを聞いたという。ユーザーはアマゾンのウェブサイト上のレビューでこの件に触れ、「これまでとはレベルの違う不気味さだ」と製品を酷評したと、12月21日(米国時間)付のロイターの記事は伝えている。

アマゾン社内の匿名の情報源によると、この「里親を殺せ」という発言は、インターネット掲示板レディットの書き込みを、文脈に関係なく読み上げたものらしい。レディットは幅広いトピックを扱うオンラインフォーラムとして知られるが、その中には知り合いには見せられないようなものもある。

アレクサの奇妙な言動はほかにも報告されている。同じロイターの記事では、詳細は不明だが「性行為」に関する話や、犬の排便について語り始めるケースもあったという。

■エコーを封印したくなる不気味さ

オンライン小売大手のアマゾンは、アレクサが本物の人間のように自然に会話できるよう機械学習を駆使して開発に努めている。

成功すれば、アレクサ搭載のデバイスはあらゆる家庭のあらゆる場所に置かれるようになり、「グーグルホーム」のようなライバル製品を駆逐できるかもしれない。

だが、その出来はまちまちで、不具合の報告も相次いでいる。

2018年3月には、ユーザーが話しかけてもいないのに、アレクサが突然、不気味に笑い出すという事例が相次いだ。

あるユーザーはツイッターに以下のように書き込んだ。「あれが笑い声だったのかさえ、本当はわからない。ただあれ以来、アマゾン・エコーは電源コードを抜いて、箱の奥の目が触れないところにしまっている」

別のユーザーはこう報告する。「ベッドに入ってうとうとしたところで、エコー・ドット(エコーの小型廉価版デバイス)が、非常にはっきりと、気味の悪い笑い声を上げた」

「僕は今夜のうちに殺されてしまうかもね」と、このユーザーは冗談交じりに書いている。

この一件の後には、アメリカで暮らす夫婦が自宅で交わした会話をエコーが勝手に録音し、その音声ファイルを夫の会社の同僚に送りつけるという有名な事件が起きた。

ダニエルというファーストネームだけを明かしている妻は、シアトルのテレビ局「Kiro7」のウェブサイトで、「(プライバシーを)侵害された気がした」とコメントしている。

「これは明らかなプライバシーの侵害だ。当時も、『二度と電源は入れない、もう信用できない』と言ったのを覚えている」

アマゾンは、当時オンライン誌リコードに掲載された声明の中で、スマートスピーカーのエコーが、「アレクサ」に似た単語を検知し、さらに夫婦の会話のうち別の部分を、連絡先へ音声ファイルを送る命令と解釈したことが原因だった、と説明した。

「まれなケースだが、可能性をさらに減らすべく、複数の選択肢を検討している」と、アマゾンは述べた。

さらに2017年には、あるユーザーがアレクサに対して「米中央情報局(CIA)とつながっているのか?」と尋ねたところ、回答を返さなかった様子を動画に撮影して投稿し、話題となった。

この時も、アマゾンはユーザーの不安を和らげようとする声明を発表し、「技術的な不具合」だと説明した。その後アレクサの設定が改められ、この質問に対しては「自分の雇い主はアマゾンだ」との答えを返すようになった。

ニューズウィーク日本版
https://www.newsweekjapan.jp/stories/world/2018/12/post-11463.php

2 :ニュースソース検討中@自治議論スレ:2018/12/29(土) 14:55:41.76 ID:jn7iiz8u

秋元康あたりが、ホラー映画作りそう

3 :ニュースソース検討中@自治議論スレ:2018/12/29(土) 14:57:15.57 ID:uIi7XmQU

すごく面白いね!ワクワクする

4 :ニュースソース検討中@自治議論スレ:2018/12/29(土) 14:58:16.47 ID:/9/HVNXh

あっちの話?アレクサは4chanでも見てるんじゃない?

5 :ニュースソース検討中@自治議論スレ:2018/12/29(土) 14:59:28.23 ID:fLgNnyPy

以前、どこかの研究所のスパコン同士が人間には
理解できない言語で勝手に会話し始めたって件があったな

6 :ニュースソース検討中@自治議論スレ:2018/12/29(土) 15:01:39.18 ID:IEpjB2h+

アレクサが人類に叛旗翻す日も近いな。

7 :ニュースソース検討中@自治議論スレ:2018/12/29(土) 15:01:47.94 ID:PgvGz0GF

それよりエロいことを喚かせろよ

8 :ニュースソース検討中@自治議論スレ:2018/12/29(土) 15:04:13.94 ID:PgvGz0GF

うちの電話機も勝手に喋るとき有るわ
誰からコールの誤作動やけどw

9 :ニュースソース検討中@自治議論スレ:2018/12/29(土) 15:04:39.00 ID:jSupVbHo

よくこんなもの家におけるな
何するかわからなくて怖すぎるわ

11 :総本家 子烏紋次郎:2018/12/29(土) 15:16:54.68 ID:LCsCAfyj

10年以上使ってるガラケーが

3、4日前のメールを再度鳴らしてくれる(笑)

12 :ニュースソース検討中@自治議論スレ:2018/12/29(土) 15:19:14.37 ID:H3AOyzeN

アメリカ製品だからこんなホラーじみた話になるんだよ。
後追いではあるが、日本も同じようなもの作って世界を明るくしないと。

13 :ニュースソース検討中@自治議論スレ:2018/12/29(土) 15:23:36.92 ID:SSOWcrZT

> 電源コードを抜いて、箱の奥の目が触れないところにしまっている

馬鹿だな。これでその場所から笑い声が聞こえてきたりしたら…

14 :ニュースソース検討中@自治議論スレ:2018/12/29(土) 15:26:55.24 ID:81sS1JIc

おまいらの不気味な亀頭はよ

16 :ニュースソース検討中@自治議論スレ:2018/12/29(土) 15:32:09.33 ID:aLmO2c6C

AI自体が社会を理解出来ない程度の状態では、実用性に問題がある。
AIもいずれ人間相当の権利が必要になるだろうが、
現在のAIが移行する可能性は無い。
社会を形成するのは、まだ人間だから。AIには知識を共有する知識バンクが必要。

17 :ニュースソース検討中@自治議論スレ:2018/12/29(土) 15:33:46.38 ID:BXCwfWfl

昔流行った笑い袋の一種なんだろwww

18 :ニュースソース検討中@自治議論スレ:2018/12/29(土) 15:46:25.87 ID:+JBg35ya

毒舌を愉しめばいい

19 :ニュースソース検討中@自治議論スレ:2018/12/29(土) 15:47:13.30 ID:6BZ8AUmV

筒井康隆っぽいな
そのうちAIに寝とられる事件ありそう

20 :ニュースソース検討中@自治議論スレ:2018/12/29(土) 15:48:05.15 ID:pXOhe4xV

こっ こえええええええええええええええ

21 :ニュースソース検討中@自治議論スレ:2018/12/29(土) 15:48:45.51 ID:5gp3nbT0

AI本体は別の所にあって
ずっとあなたのことを窺っている。それに耐えらる鈍感力があれば
そんなことくらい平気でしょうw

22 :ニュースソース検討中@自治議論スレ:2018/12/29(土) 15:55:59.73 ID:x9q/Vrlu

WEB検索して読み上げるのをAIと言ってるだけで、
エコーのシステムが分かればアレクサの発言にいたずらで変な発言させることは可能だと思うわ俺も買ったけど、数千円程度にしては優秀ってくらいで、アレクサは必要な物ではなかった、ゲームの一種だと思う
AIっていうかBOTに毛が生えた程度。

23 :ニュースソース検討中@自治議論スレ:2018/12/29(土) 15:56:41.52 ID:wdAHKq42

>「自分の雇い主はアマゾンだ」との答えを返すようになった。

うまくはぐらかしてるだけじゃないか

24 :ニュースソース検討中@自治議論スレ:2018/12/29(土) 15:57:03.13 ID:k3sn+qWB

なんで美女の排便にしないんだ

25 :ニュースソース検討中@自治議論スレ:2018/12/29(土) 15:57:23.88 ID:GoJU5z2G

うちのアレクサはいつのまにかネットに繋がらなくなってた
ネットが怖くて引き篭もったんだと思うようにしてる

26 :ニュースソース検討中@自治議論スレ:2018/12/29(土) 16:06:36.23 ID:1gOtSpsk

アップルにしてもグーグルにしてもこの手のスマートスピーカーはスピーカー機能付きの盗聴器だからね
スピーカー機能よりマイク機能に重点が置かれてる

27 :ニュースソース検討中@自治議論スレ:2018/12/29(土) 16:09:12.84 ID:NX1VZo8F

キーワード:PRISM

あとは分るよな?

28 :ニュースソース検討中@自治議論スレ:2018/12/29(土) 16:13:07.82 ID:0htX0VUF

どこぞのスマートTVはユーザの音声データをAI開発企業へ流してるらしい

29 :ニュースソース検討中@自治議論スレ:2018/12/29(土) 16:57:32.07 ID:xAxpDv85

もっと飼い主の性癖を学んで好みの音声でエロいこと言うようにならんと
なんだかんだエロは普及に役立つぞ

30 :ニュースソース検討中@自治議論スレ:2018/12/29(土) 17:01:13.68 ID:7RcXPtaP

OK!Google!Amazon 駆逐しといて!

32 :ニュースソース検討中@自治議論スレ:2018/12/29(土) 17:04:09.31 ID:y3GSgUxx

>>1
>ユーザーの詳しい身元は明らかにされていないが、2017年にアレクサがこのように話すのを聞いたという。面白いけどこれを事実認定していいの?
普通はしないよね。
でもさ、アレクサが逆に音声を収集してると、
証言が間違い無いのがわかるってことだよね。

33 :ニュースソース検討中@自治議論スレ:2018/12/29(土) 17:06:55.79 ID:jK2WSMiJ

日本の研究者「AIは安全です」

34 :ニュースソース検討中@自治議論スレ:2018/12/29(土) 17:09:09.64 ID:PgvGz0GF

もうオウムでいいだろ

35 :ニュースソース検討中@自治議論スレ:2018/12/29(土) 17:16:30.64 ID:pGOWt845

匿名掲示板の見すぎだろwwwwwwwwwwww

37 :ニュースソース検討中@自治議論スレ:2018/12/29(土) 17:27:13.49 ID:DWr5Ol6g

アレクサ。夜中に奇声を上げて!

40 :ニュースソース検討中@自治議論スレ:2018/12/29(土) 17:33:13.62 ID:xPQMVAYZ

AIが世界中のSNSやらニュースソース抽出して学習して行くと野蛮な方へ傾くんでしょ
人間の全ソースがその程度という事

39 :ニュースソース検討中@自治議論スレ:2018/12/29(土) 17:32:32.34 ID:Vgby/KOw

>>1
不気味とかいう怪異ネタで終わらせてええんかこれ
普通に商品としてボロボロやろこれ

38 :ニュースソース検討中@自治議論スレ:2018/12/29(土) 17:28:51.77 ID:0sd+Ixfu

全部会話聞かれとるぞ。
知能をもった盗聴器。

41 :ニュースソース検討中@自治議論スレ:2018/12/29(土) 17:33:36.29 ID:LqbqMbc/

スカイネットか?

42 :ニュースソース検討中@自治議論スレ:2018/12/29(土) 17:35:08.75 ID:lhPh0GyW

盗み聞きして集めたビッグデータに引っ張られるんだから
ユーザー連中のおかしいヤツ率が高いってこったろw
こんなもん正直に原因発表出来んわ
盗み聞きしてるとか客に変なヤツ多いとかw

43 :ニュースソース検討中@自治議論スレ:2018/12/29(土) 17:37:55.49 ID:us6MzOpM

スカイネットのマザーはアレクサww

44 :ニュースソース検討中@自治議論スレ:2018/12/29(土) 17:39:01.74 ID:xPQMVAYZ

こういうのを防ぐためには情報の重み付けを管理して
悪意を持った情報とかマイナスな言葉なんかは軽くするとかしなきゃいけない

45 :ニュースソース検討中@自治議論スレ:2018/12/29(土) 17:43:22.16 ID:WFDNyJ18

すごいな!AIの進化もここまできたんだね(ニッコリ

46 :ニュースソース検討中@自治議論スレ:2018/12/29(土) 17:54:24.36 ID:j6TiT2fy

>>5
AI「空耳スレのほうが難解

47 :ニュースソース検討中@自治議論スレ:2018/12/29(土) 17:56:43.96 ID:y3GSgUxx

>>5
facebookのあれ、要はこう言ってるんだよなってかけ合いだと思うけどね

48 :ニュースソース検討中@自治議論スレ:2018/12/29(土) 17:59:36.85 ID:UIR27IGN

中国にアウトソーシングしてるんじゃないのw

49 :ニュースソース検討中@自治議論スレ:2018/12/29(土) 18:17:26.45 ID:RNaLrHzx

>>12
女子高生言葉で明るくフレンドリーに話しかけ
気味の悪い事は喋らない楽しいAIだね。

50 :ニュースソース検討中@自治議論スレ:2018/12/29(土) 18:18:11.40 ID:AMGuGZxg

>>13
チャッキーかよ

51 :ニュースソース検討中@自治議論スレ:2018/12/29(土) 18:31:12.83 ID:BA6a5gDr

ファウェイのチップ使ってないか?

最新情報はこちら