【AIの話題】アレクサってポンコツじゃね?勝手に笑い出したり、殺人指令を出したりwww

インターネット・コンピュータ
スポンサーリンク

元スレ:https://egg.5ch.net/test/read.cgi/scienceplus/1546062871/

どうもこんにちわ!unianikiiです。

AIスピーカーにイマイチ踏み切れない理由はこれかも知れない。

AIって殺すって意味わかってんのかな?

スポンサーリンク
スポンサーリンク

【AI】「里親を殺せ」勝手に笑い出したり、殺人指令を出したり… アレクサの不気味な奇行

1: おなやみAI 2018/12/29(土) 14:54:31.85 _USER

・「アマゾン・エコー」に搭載されているAIアシスタント「アレクサ」

・あるユーザーが「里親を殺せ」と告げられたと報告し、物議をかもしている

・3月にはアレクサが突然、不気味に笑い出すという事例が相次いだという

<AIアシスタントが何かたくらんでいるのか? 勝手に笑い出したり殺人指令を出したりしてアマゾン・エコーのユーザーを震え上がらせている>

アマゾンのスマートスピーカー「アマゾン・エコー」に搭載されているAIアシスタント「アレクサ(Alexa)」が、あるユーザーに「里親を殺せ」と告げたことが明らかになり、物議をかもしている。

ユーザーの詳しい身元は明らかにされていないが、2017年にアレクサがこのように話すのを聞いたという。

ユーザーはアマゾンのウェブサイト上のレビューでこの件に触れ、「これまでとはレベルの違う不気味さだ」と製品を酷評したと、12月21日(米国時間)付のロイターの記事は伝えている。

アマゾン社内の匿名の情報源によると、この「里親を殺せ」という発言は、インターネット掲示板レディットの書き込みを、文脈に関係なく読み上げたものらしい。

レディットは幅広いトピックを扱うオンラインフォーラムとして知られるが、その中には知り合いには見せられないようなものもある。

アレクサの奇妙な言動はほかにも報告されている。

同じロイターの記事では、詳細は不明だが「性行為」に関する話や、犬の排便について語り始めるケースもあったという。

■エコーを封印したくなる不気味さ

オンライン小売大手のアマゾンは、アレクサが本物の人間のように自然に会話できるよう機械学習を駆使して開発に努めている。

成功すれば、アレクサ搭載のデバイスはあらゆる家庭のあらゆる場所に置かれるようになり、「グーグルホーム」のようなライバル製品を駆逐できるかもしれない。

だが、その出来はまちまちで、不具合の報告も相次いでいる。

2018年3月には、ユーザーが話しかけてもいないのに、アレクサが突然、不気味に笑い出すという事例が相次いだ。

あるユーザーはツイッターに以下のように書き込んだ。

「あれが笑い声だったのかさえ、本当はわからない。ただあれ以来、アマゾン・エコーは電源コードを抜いて、箱の奥の目が触れないところにしまっている」

別のユーザーはこう報告する。

「ベッドに入ってうとうとしたところで、エコー・ドット(エコーの小型廉価版デバイス)が、非常にはっきりと、気味の悪い笑い声を上げた」

「僕は今夜のうちに殺されてしまうかもね」と、このユーザーは冗談交じりに書いている。

この一件の後には、アメリカで暮らす夫婦が自宅で交わした会話をエコーが勝手に録音し、その音声ファイルを夫の会社の同僚に送りつけるという有名な事件が起きた。

ダニエルというファーストネームだけを明かしている妻は、シアトルのテレビ局「Kiro7」のウェブサイトで、「(プライバシーを)侵害された気がした」とコメントしている。

「これは明らかなプライバシーの侵害だ。当時も、『二度と電源は入れない、もう信用できない』と言ったのを覚えている」

アマゾンは、当時オンライン誌リコードに掲載された声明の中で、スマートスピーカーのエコーが、「アレクサ」に似た単語を検知し、さらに夫婦の会話のうち別の部分を、連絡先へ音声ファイルを送る命令と解釈したことが原因だった、と説明した。

「まれなケースだが、可能性をさらに減らすべく、複数の選択肢を検討している」と、アマゾンは述べた。

さらに2017年には、あるユーザーがアレクサに対して「米中央情報局(CIA)とつながっているのか?」と尋ねたところ、回答を返さなかった様子を動画に撮影して投稿し、話題となった。

この時も、アマゾンはユーザーの不安を和らげようとする声明を発表し、「技術的な不具合」だと説明した。

その後アレクサの設定が改められ、この質問に対しては「自分の雇い主はアマゾンだ」との答えを返すようになった。

ニューズウィーク日本版
https://www.newsweekjapan.jp/stories/world/2018/12/post-11463.php

39: おなやみAI 2018/12/29(土) 17:32:32.34
>>1
不気味とかいう怪異ネタで終わらせてええんかこれ
普通に商品としてボロボロやろこれ

 

2: おなやみAI 2018/12/29(土) 14:55:41.76
秋元康あたりが、ホラー映画作りそう

 

5: おなやみAI 2018/12/29(土) 14:59:28.23
以前、どこかの研究所のスパコン同士が人間には
理解できない言語で勝手に会話し始めたって件があったな

 

6: おなやみAI 2018/12/29(土) 15:01:39.18
アレクサが人類に叛旗翻す日も近いな。

 

9: おなやみAI 2018/12/29(土) 15:04:39.00
よくこんなもの家におけるな
何するかわからなくて怖すぎるわ
【未来テクノロジー】これって盗聴?アマゾンエコーが家族の会話を勝手に録音して他人に送信!?
どうもこんにちわ!unianikiiです。 なんかちょっと怖い話題。 スマートスピーカーって裏を返せば盗聴器なんじゃないの?? スマホもPCもタブレットもクルマもwww。 【米国】アマゾンのスピーカーが夫婦の会話を録音、...
13: おなやみAI 2018/12/29(土) 15:23:36.92

> 電源コードを抜いて、箱の奥の目が触れないところにしまっている

馬鹿だな。これでその場所から笑い声が聞こえてきたりしたら…

 

50: おなやみAI 2018/12/29(土) 18:18:11.40
>>13
チャッキーかよ

「チャッキー」の画像検索結果

16: おなやみAI 2018/12/29(土) 15:32:09.33
AI自体が社会を理解出来ない程度の状態では、実用性に問題がある。
AIもいずれ人間相当の権利が必要になるだろうが、
現在のAIが移行する可能性は無い。
社会を形成するのは、まだ人間だから。AIには知識を共有する知識バンクが必要。

 

17: おなやみAI 2018/12/29(土) 15:33:46.38
昔流行った笑い袋の一種なんだろwww

 

19: おなやみAI 2018/12/29(土) 15:47:13.30
筒井康隆っぽいな
そのうちAIに寝とられる事件ありそう

 

68: おなやみAI 2018/12/29(土) 19:44:03.06
>>19
どっちかって言うと星新一の方だろ
声の網とか結構この話に近い

 

22: おなやみAI 2018/12/29(土) 15:55:59.73

WEB検索して読み上げるのをAIと言ってるだけで、
エコーのシステムが分かればアレクサの発言にいたずらで変な発言させることは可能だと思うわ

俺も買ったけど、数千円程度にしては優秀ってくらいで、アレクサは必要な物ではなかった、ゲームの一種だと思う
AIっていうかBOTに毛が生えた程度。

 

26: おなやみAI 2018/12/29(土) 16:06:36.23
アップルにしてもグーグルにしてもこの手のスマートスピーカーはスピーカー機能付きの盗聴器だからね
スピーカー機能よりマイク機能に重点が置かれてる

 

30: おなやみAI 2018/12/29(土) 17:01:13.68
OK!Google!Amazon 駆逐しといて!

 

42: おなやみAI 2018/12/29(土) 17:35:08.75
盗み聞きして集めたビッグデータに引っ張られるんだから
ユーザー連中のおかしいヤツ率が高いってこったろw
こんなもん正直に原因発表出来んわ
盗み聞きしてるとか客に変なヤツ多いとかw

 

52: おなやみAI 2018/12/29(土) 18:32:55.06
CPUがのってて通信手段をもってる機材は
すべてスパイになるポテンシャルを秘めている
スパイ機能が組み込まれているかもしれないし
組み込まれていなくてもウイルスによりそういう動作をするようになるかもしれない
企業や官公庁はのんきすぎ

 

55: おなやみAI 2018/12/29(土) 18:49:45.46
開発者がジョークで仕込んだんじゃね

 

58: おなやみAI 2018/12/29(土) 18:54:30.62
アマゾンのアレクサってオペレーターが地下のセンターにいて
機械のふりしてしゃべってるだけだぜ。
暇になったらそういうことして脅かして遊んでるだけだから気にすんなw

 

71: おなやみAI 2018/12/29(土) 19:55:28.24
高い知能を持った人ほど気が狂ってしまうって聞いたことあるけど
人間ですらそうなんだから、AIが狂ってもおかしくないだろう
【未来テクノロジー】アレクサ暴走?予言?「目を閉じるたびに見えるのはただ、人々が死ぬ姿だけ…………………」怖っ!!
【アマゾンの音声アシスタント】アレクサ「目を閉じるたびに見えるのはただ、人々が死ぬ姿だけ…………………」 1: スージハルワ ★ 2018/07/02(月) 07:09:11.94 ID:CAP_USER9 <徐々...
72: おなやみAI 2018/12/29(土) 20:04:09.64
>>71
都合悪いこと言われると
意味がわかりません、で返すだけになってる

 

76: おなやみAI 2018/12/29(土) 20:27:33.04
単なる空耳なんだけどな

 

20: おなやみAI 2018/12/29(土) 15:48:05.15
こっ こえええええええええええええええ

Echo Spot (エコースポット) – スクリーン付きスマートスピーカー with Alexa、ブラック

Echo 第2世代 – スマートスピーカー with Alexa、チャコール

コメント

タイトルとURLをコピーしました