【IT】【Infostand海外ITトピックス】ついにDeepfake利用の犯罪が成功してしまう　AIボイスの“振り込め詐欺”

　AIが電話をして美容院やレストランの予約をする――。そんなテクノロジーが実現すると、犯罪に悪用する者が現れても不思議ではない。電話でボスから送金の指示を受け、実行したところ、その声はAI合成だったという詐欺事件が発生した。この企業は22万ユーロ（24万3000ドル）をまんまと奪われてしまったという。

□Deepfakeでボスの音声を合成して送金指示
　ある日、英国エネルギー企業のCEOはドイツにいるボス（親会社のCEO）から電話で「ハンガリーに22万ユーロを送金するように」と命じられた。「至急、それも一時間以内に」という指示だった。声は抑揚も、ドイツ訛りの英語も、いつも聞いているボスの声だった。

　電話は同じ日に計3回あり、2回目の電話では、22万ユーロを払い戻すという連絡を受ける。そして3回目。再びボスは送金を指示してきた。だが払い戻したはずの22万ユーロはまだ届いていない。そこで不審に思った子会社のCEOは、電話の発信元がオーストリアの番号であることに気づき、3回目の指示には従わなかった。

　あとで、ボスは電話をしておらず、「Deepfake」で音声を合成した詐欺であることが分かった。最初にハンガリーの銀行に振り込まれた22万ユーロは、その後メキシコに移動し、さらに複数の場所に分散されたという。犯人は、いまだ特定されていない。

　この事件は今年3月に発生したものだ。Wall Street Journalが8月末、被害企業が契約する信用保険会社Euler Hermes Group（Allianz子会社）の証言を元に伝えた。AIを使った音声のなりすまし攻撃として欧州初だろうとしている。被害企業の名前は伏せられている。

□データが多い有名人はターゲットになりやすい
　Deepfakeはディープラーニングで本物そっくりの動画などを偽造することだ。画像、動画が次々に現れ、フェイクニュースなどへの悪用が危惧されている。今回の事件は、画像だけでなく、音声も十分に悪用されることを実証した。

　Euler Hermesの詐欺問題専門家Rudiger Kirsch氏は「AIを使った詐欺は企業にとって新しい課題だ」とWall Street Journalに述べている。なぜなら、これまでのサイバーセキュリティツールでは、なりすましの音声を検出できないからだという。

　サイバーセキュリティ企業Endgameのデータサイエンス担当ディレクターBobby Filar氏は、簡単に音声偽装のできるサービスが複数あり、「数学の博士号を持ってなくとも使える」と解説している。

　ZDNetは、CEOが偽音声のターゲットになりやすいと指摘する。CEOは人前で話す機会が多く、メディアの露出が多いのはもとより、スピーチ動画がYouTubeなどに掲載されている。データはふんだんにあり、簡単にAIをトレーニングできるのだ。

　BBCによると、Symantecが3件の声のDeepfake事件を確認しているが、いずれもCEOの声を使ったものだった。被害者の経済的損失は数百万ドルに上るという。SymantecのCTO、Hugh Thompson博士は、詐欺師が、データを利用して音声のモデルを構築していることに触れ、「モデルはほぼ完璧」と述べている。

　The Next Webは「AIベースのツールは探求や創造性に利用できるが、同時に、犯罪、騙し、ほぼ（残念ながら）完璧な詐欺も可能にする」と述べている。

>>2 へ続く

2019年9月9日 11:47
クラウド Watch
https://cloud.watch....fostand/1206050.html

>>1 から続く

□音声詐欺は急増中
　AI技術が犯罪に使われることは、もちろん以前から予想、危惧されてきた。最近でも7月、イスラエル政府のサイバーセキュリティ理事会が、企業の幹部になりすます新しいAI攻撃が見られると警告を発していた。

　音声詐欺は効果的でもある。Wall Street Journalは、音声サンプルを組み合わせてAIを使わずに人の声を模倣する手法を紹介している。2018年のセキュリティカンファレンス「Black Hat」でデモされたもので、数時間分の音源が必要で手間がかかるが、効果は実証済みという。

　有名人ともなると、ずっと沈黙を守ってデータを公開しないというのは難しい。EndgameのFilar氏は「自分の公開した情報が自身への攻撃に使われるという、予想もしない事態に直面することになるだろう」と述べている。

　国連地域間犯罪司法研究所はフェイク動画を検出する技術に取り組んでおり、セキュリティ企業もDeepfakeを見抜く製品を開発しているという。同研究所のAIとロボティクスセンターのトップ、Irakli Beridze氏は、フェイク技術は犯罪を容易にするとWall Street Journalに語っている。

　コールセンターなど音声向けセキュリティのPindropの調査では、音声技術による詐欺は2013年に「2900件に1件」だったのが、2017年には「638件に1件」と、4.5倍に激増しているという。模倣、リプレイ攻撃、音声修正ソフトウェア、音声合成など、技術の進歩や企業の音声技術の採用が背景にある。

　PindropのCEO、Vijay Balasubramaniyan氏は、IoTデバイスの増加とともに音声が主流のインターフェイスになりつつある点を指摘。「高度な音声技術が悪事を働く者の手に渡っている。今後、音声ベースの詐欺行為はますます増えるだろう」と予想している。

関連リンク
Wall Street Journalの記事（英文）
https://www.wsj.com/...ime-case-11567157402
ZDNetの記事（英文）
https://www.zdnet.co...rs-into-wiring-cash/
BBCの記事（英文）
https://www.bbc.com/.../technology-48908736
The Next Webの記事（英文）
https://thenextweb.c...transferring-243000/
Pindropのレポート（英文）
https://www.pindrop....intelligence-report/

AI「わてや　わてやで　ほなさいなら！」

　

　　＿ﾉ乙(､ﾝ､)＿ＳＦね

もう何も信用できなくなった。

いいこと考えた！

加害する傾向がある子供を育てた親の育児談がまじで辛い…「これは言われても納得できないかも」の声も
http://geow.goodjobw....com/g1evx/9214.html

露出の多いボスだとやばいんだなｗ

元データ切り貼りすればAI扶養では？

音声だけでなく動画まで作れるんだな

秘密の合言葉は‥‥‥だ!

AIより怖いのが失踪外人の増加な
田舎で老人しかいない家は強盗リスク大
上京組は親に警告しておいた方がいいぞ

ボスジャン届いたぞ

ＡＩ化で俺俺詐欺も省力化かよ、詐欺師も失業やな

動画も音声も信頼できない時代が来たな…

ＡＩ「電話は原始的過ぎ

電話はもうセキュリティ的に限界なんだろうな
Slackの株でも買っとくか

※防犯協力を要請された方､何か御存知の方は､公明党・創価学会との繋がりのない野党系の政党か､同国会議員の方に情報提供願います｡

やりすぎ防犯パトロール､特定人物を尾行監視　3月19日19時7分配信 ツカサネット新聞
headlines.yahoo.co.jp/hl?a=20090319-00000026-tsuka-soci（リンク切れ）　i.imgur.com/Kr48zmK.png（同記事スクショ）
記事要約
・｢子供110番の家｣｢子供老人パトロール隊｣等の民間防犯団体員に対して県警警部補が｢尾行の仕方｣｢ごまかし方｣まで教えている
・防犯パトロールでは一般市民である人物が見える形で尾行や監視行為をし､対象個人へ”身辺への｢圧力｣”を感じさせている
・端的にストーカー行為と同じで､それが集団で行なわれている
・対象個人が店舗に入ると､店員に防犯パトロールの要員が警戒するように｢密告｣
・信じた店員は対象人物をあたかも｢万引き犯罪者｣の如く秘かに､あるいはあからさまに尾行
・防犯パトロールへの警戒対象人物への情報は､警察サイドからのもので検証されていない
※やりすぎ防パトを嫌がらせに利用する為､対象人物情報に､創価学会が不正に嫌がらせしたい人物をねじ込んでいるとの学会員の証言あり
・警察の生活安全課が地元の企業と｢防犯協力覚え書｣という形の協定書を取り付け回っている
・例えば､病院などは､警察と病院の覚え書によって､病院という場所を監視の場所に変える
・防犯パトロールの要員が､患者へのボランティアという偽装の形で病院に入り込むだけではない
・病院職員自身､看護師が入院病室の対象人物のそばで付きっきりで､会話の立ち聞きをするのは日常茶飯事
・この活動に､ある特定の政治的団体が関与して容易に入り込み､権力化する流れも疑われている｡
※ある特定の政治的団体とは創価学会の事である

■やりすぎ防パト問題　実際に行われている事　※ＮＧ規制の為､修正版を掲載（１９年８月１９日現在）｡
NO.2742732　2013/07/28 16:27　コンビニ店員だけど､警察官に変な依頼された｡
baku●sai.com/thr_res/acode=8/ctgid=104/bid=119/tid=2742732/tp=1/rw=1/
■スレ主のレス　投稿日時　2013年7月28日午後4時から午後5時にかけて
これから帰宅という時に､急に店長から｢警察から仕事の依頼が来たから手伝え｣と言われた｡内容を聞いたら､女性の顔写真を見せられた｡
（あっ､この人……｡常連さんで､話したことがあるけど､気さくな人だったな）と考えていたら､
店長が｢レジ前に来たら､俺と一緒にその女性の前でニヤニヤするぞ｣と言った｡馬鹿げた内容に｢本当に警察の依頼なのか？｣と聞くと､
店長が｢いいから黙ってあの人の指示に黙って従え｣と店外を指差した｡高級車に一人乗ってる中年男がが警察官らしい｡
少し経つと､例の女性が本当に入店してきた｡会計の時､店長は｢よし､やるぞ｣って指示通りニヤニヤした｡俺はやらなかった｡
女性はすごい不快そうだった｡女性が店から出た後､警察官が店に入ってきて､｢お疲れ様です｣と声をかけてきて､店長と笑顔で会話し始めた｡
店長が｢何でやらなかったんだ？｣と俺に聞いてきたから｢馬鹿馬鹿しいからです｣と答えた｡すると｢お前明日から来るな｣と言われた｡
頭にきたので説教を無視して帰宅しようとしたら中年警官が｢これは安心安全の為なんです｣言い出した｡それも無視して帰った｡

■4　投稿日時　2013年7月28日午後5時台
店の客の中にもマークするように指示を受けて入店してくる人がいる｡カモフラージュの為に買い物もする｡

■20　投稿日時　2013年7月28日午後7時台
防犯活動だろ｡非行に走らないように見守るので協力して下さいと依頼された事ならある｡
あるご近所が外出したら連絡するので､ご近所が通過するのを確認したら思いっきりドアを閉めて下さいって｡

■21　投稿日時　2013年7月28日午後7時台
４です｡その客を装ったパトロールの人が､警察官に､ある人が入店したら､店内で､大きな声で読売ジャイアンツの話をしてと
依頼された事があったと話してた｡指示通りに話すと､その客がびっくりしたらしい｡

■27　投稿日時　2013年7月28日午後9時台
学生ボランティアやってた｡深夜担当時､コンビニで待機し､ある人が来たら､入口を塞ぐよう警部補に頼まれた｡
その日同じ担当の人と｢こんなの防犯じゃなくてただの嫌がらせだろ｣とやってて情けなくなった｡

■45　投稿日時　2013年７月２９日午前0時台
警察官に｢地域防犯活動に協力して下さい｣と写真を見せられて｢写真の人間がこれから近くを通過するので演技で構いませんので､
わざとらしいクシャミをして下さい｣と頼まれた事がある｡bn13

>>9
それだとリズムや抑揚がバラバラで不自然になるだろ