1 2019/08/18(日) 09:40:24.82 ID:Xm4w+ZFM0●.net

AIで本物そっくりの偽動画が簡単に作成できる懸念

人工知能(AI)への注目度が高まっています。AIがもたらす技術革新や経済効果に関心が寄せられる半面、悪用への懸念も増しています。
サイバーセキュリティー専門家、松原実穂子さんの報告です。【毎日新聞経済プレミア】

 AIが世界経済に与える波及効果は2030年までに13兆ドル(1405兆円)に及ぶと、国際コンサルティング企業のマッキンゼーは昨年時点で予測した。
世界の国内総生産(GDP)を毎年1.2%押し上げる効果が見込まれるという。

 だが、AI悪用への懸念も増している。その好例が、19年6月にオンラインに投稿された米フェイスブックの最高経営責任者(CEO)、マーク・ザッカーバーグ氏の偽動画である。

 同氏がビッグデータについて語っているように見える動画は、実はAIで作られた偽物だった。ザッカーバーグ氏が米フェイスブック本社で行った演説の動画をもとに、顔をコンピューターで作成し、俳優の声を組み合わせて作成された。
本物そっくりの偽動画をAIで簡単に作ることができるのだ。来年の米大統領選挙での悪用も心配されている。

 ◇経営者の声で「振込先が変更になった」

 サイバー攻撃でも、AIが使われるようになってきた。このことはイスラエルの国家サイバー局が今年7月にまとめた報告書でも警告されている。
国家サイバー局は、サイバーセキュリティー政策やサイバー防衛を担当している政府機関である。

 報告書はAIを活用した電話音声の偽装について取り上げている。例えばサイバー攻撃者は、標的にした企業の経営者の声をAIに20分間聞かせる。
AIはそっくり似せた偽の音声を作成し、その企業の財務担当者に電話をかけ、大量の送金を命じる。なんと、AIが財務担当者との会話もこなすというのだ。

 「ビジネスメール詐欺」と呼ばれる犯罪がある。経営者や取引先を装い、「振込先が急に変更になった」といった偽メールを企業の財務担当者に送りつけ、大金をだまし取るものだ。
世界中で被害が増大の一途をたどり、米連邦捜査局(FBI)によれば、米国内だけでも18年に35万1937件の被害が報告されている。

 ビジネスメールで企業から大金を盗む手法が、AIによって電話にも広がったというわけだ。
イスラエル国家サイバー局は、電話による詐欺が行われていることを財務担当者に告知し、急な振込先の変更など、何か指示された際の対応を見直すよう企業に促している。



https://headlines.yahoo.co.jp/hl?a=20190818-00000004-mai-bus_all
7 2019/08/18(日) 09:42:39.94 ID:1wIf3SZe0.net
ガッキーのエロフェイクのやつかと思った
あれうますぎ
36 2019/08/18(日) 09:54:34.39 ID:hx0qfTKO0.net
>>7
あれは良かった
素材の女優自体の顔立ちが似てないと駄目みたいだな
12 2019/08/18(日) 09:44:01.37 ID:z6g8st650.net
えみつん
14 2019/08/18(日) 09:44:56.05 ID:1wIf3SZe0.net
>>12
それフェイクじゃねえから!
18 2019/08/18(日) 09:46:18.73 ID:WkUC60qP0.net
フェイクの素材になったAV女優に悪いと思わんのか!
25 2019/08/18(日) 09:50:10.17 ID:hs4wo3OH0.net
>>18
顔は見るに堪えないが体は最高な女の雇用が生まれる
34 2019/08/18(日) 09:54:24.17 ID:J+mktUjY0.net
>>25
アパレル通販サイトの顧客体型情報があれば本人は用なしになってっていくだろう
57 2019/08/18(日) 10:08:18.91 ID:90aQvtMP0.net
>>25
手タレみたいなやつか
103 2019/08/18(日) 10:47:03.38 ID:oWp7tSto0.net
>>25
顔は残念だけどめっちゃスタイルいい娘居るもんな
109 2019/08/18(日) 10:50:28.42 ID:+tSIOPU40.net
>>25
タンポポの片割れか
19 2019/08/18(日) 09:46:58.80 ID:ijwW9ByM0.net
黒乳首「ウケるw」
23 2019/08/18(日) 09:49:35.51 ID:ic5r/YD80.net
>>19
黒乳首愛好家「なぜだ!」
22 2019/08/18(日) 09:48:20.86 ID:cSX7ABJM0.net
AIで作成できるということはAIで見破ることもできるということだ(`・ω・´)キリッ
50 2019/08/18(日) 10:00:22.85 ID:dr18ojU10.net
>>22
この手の本物そっくりの画像・映像を生成するプログラムは騙すAIとそれを見抜くAIを永遠と対戦させて精度を上げている
54 2019/08/18(日) 10:05:23.82 ID:cSX7ABJM0.net
>>50
ゴキブリ対殺虫剤やんwwwwww
26 2019/08/18(日) 09:51:48.86 ID:aN+QfQTh0.net
アイコラの動画版が蔓延る世の中になるのか

はよ
30 2019/08/18(日) 09:52:53.18 ID:MCZbJwZ/0.net
>>26
もうあるんだよなぁ
199 2019/08/18(日) 19:17:53.93 ID:oL6fg54s0.net
>>26
たくさんあるんですけど
33 2019/08/18(日) 09:53:47.73 ID:KYnrMpyq0.net
電話も映像も信用できないな
そのうち肉眼で直接見た物や
耳で聞いた情報すら信用できない時代が来ると思う
76 2019/08/18(日) 10:22:16.68 ID:lITFOpbR0.net
>>33
マトリックス
39 2019/08/18(日) 09:54:56.54 ID:eHOIEnRz0.net
足下にドライブレコーダーつけておいてもメーカーが都合良く改ざんしたって
疑いが出ちゃうのか
46 2019/08/18(日) 09:58:51.36 ID:FT6sUr5U0.net
>>39
なにそれ、いやらしい
55 2019/08/18(日) 10:05:43.97 ID:DLNbBkTd0.net
これってエロでよく言われるけど、不祥事起こした芸能人のせいで
お蔵入りになった映画とか、顔と声だけ差し替えて発売するとか
あと女優の若返りとかも、若いときにいろいろな角度から顔を
取っておけばできるだろう
59 2019/08/18(日) 10:10:24.03 ID:xhBge9lq0.net
>>55
……もう芸能人要らなくね?
61 2019/08/18(日) 10:11:52.53 ID:DLNbBkTd0.net
>>59
いらないよ。
58 2019/08/18(日) 10:09:43.81 ID:ZwfBhdJW0.net
本物そっくりのAVでおすすめのやつ教えて下さい
60 2019/08/18(日) 10:10:55.23 ID:vCFc1vkf0.net
92 2019/08/18(日) 10:38:33.18 ID:vCFc1vkf0.net
115 2019/08/18(日) 10:55:28.40 ID:t5QWtL9o0.net
>>92
誰のそっくりさん?ブルゾンちえみ?
126 2019/08/18(日) 11:08:40.52 ID:tYJYDfu80.net
>>92
永野芽郁?あんましそそられないけど……
169 2019/08/18(日) 13:03:40.85 ID:4aCNMSfO0.net
>>92
誰かわからん
64 2019/08/18(日) 10:13:25.84 ID:DLNbBkTd0.net
死んだ映画俳優とか復活しそうw
声はヴォーカロイド化しとけばいいし
69 2019/08/18(日) 10:15:09.26 ID:NK4TlTam0.net
>>64
俳優の利権絡むから無理
70 2019/08/18(日) 10:15:24.70 ID:iOKFlfRu0.net
肉入りアイドルはもう終わりだって散々言ってるだろ
74 2019/08/18(日) 10:21:27.80 ID:8K9f6+S00.net
>>70
今のアイドルは会ってなんぼだからむしろ終わりようがないぞ在宅ニートさんよ
72 2019/08/18(日) 10:17:46.64 ID:caAhnRF80.net
この技術をAIと呼ぶことって正しいの?
アルゴリズムの発展であってAIではないような気がするんだが、詳しい人教えてくれ
98 2019/08/18(日) 10:44:23.43 ID:FJwR3FP70.net
>>72
正真正銘のAI
196 2019/08/18(日) 18:57:49.93 ID:u9XNCH7+0.net
>>98
AIによって作成されたアルゴリズムだから
アルゴリズムも発展しているといえばしている
209 2019/08/19(月) 02:29:05.03 ID:VznM4IS60.net
>>72
多分お前がAIだと思っているものは「強いAI」という
現在地球上で公にされているものは全て「弱いAI」といい、意識を持たない
82 2019/08/18(日) 10:25:10.40 ID:2boKO1Ok0.net
逆にロクデナシ達が全ての証拠をAI技術によるフェイクと言い逃れしだすだろうな
85 2019/08/18(日) 10:28:52.77 ID:YHF8nyHF0.net
>>82
実際録音音声とか証拠として採用するのはかなり危険な時代になっただろ
でっちあげとか簡単そうだし
83 2019/08/18(日) 10:25:24.28 ID:+tSIOPU40.net
最近ツイッターに宇垣アナの動画コラ流れてたな
84 2019/08/18(日) 10:28:15.91 ID:YoMxkQWY0.net
>>83
あの人はヘタクソ
他の職人のがウマい
87 2019/08/18(日) 10:30:02.28 ID:q0QXfQ/A0.net
>>1
バトルランナーで見た
90 2019/08/18(日) 10:35:20.86 ID:tIfplRxt0.net
>>87
まさかあれが現実になるとは
89 2019/08/18(日) 10:32:38.91 ID:0g2bbODK0.net
AIすげーと言ってるだけで一向に参考動画があがってこないわな
今騒がれてるAIって本当に人工知能と呼べる代物なん?
91 2019/08/18(日) 10:36:41.65 ID:5/jd5Pp60.net
>>89
人工知能なんて言ってるけど実のところは機械学習による統計だよ
97 2019/08/18(日) 10:43:33.84 ID:YHF8nyHF0.net
>>91
それって人間と同じだろ。
まさか人間は全知全能だから学習なんかしなくてもいいとでも?
104 2019/08/18(日) 10:47:07.62 ID:Y53SJH1z0.net
>>97
人間の子供って、言葉を覚えるために一日10数時間勉強してるんだってな
だから、外国語を覚えようとしてもすぐに覚えられないのは当たり前
94 2019/08/18(日) 10:41:45.15 ID:xhG6Easm0.net
AIのフェイクをAIが見破る
105 2019/08/18(日) 10:47:33.73 ID:FJwR3FP70.net
>>94
ちなみにdeepfakeはAIが作ったのをAIが自然か不自然かを判定して、それに基づいてAIが修正して、判定して、、というのを繰り返してできてる
111 2019/08/18(日) 10:50:52.43 ID:rSh9VpkD0.net
>>105
まあ人間だって自分が作ったレタッチ画像を自分で見直して
自然か不自然か判断してフィードバックしてるから、
知性と言うならばそのくらいは当然だな
135 2019/08/18(日) 11:21:01.55 ID:dSKIloX90.net
>>105
脳がこの判定しちゃって集中できない
138 2019/08/18(日) 11:44:43.32 ID:fqXaXxhO0.net
>>135
AIも人間の脳と同じことやってるってことよな
96 2019/08/18(日) 10:43:27.14 ID:ArijLHpq0.net
バトルランナー
122 2019/08/18(日) 11:05:06.04 ID:R3vP5Mep0.net
>>96
シュワちゃんが、あまりに勝つもんで他の人が殺られる映像に、シュワちゃんの頭合成してたな。

https://i.imgur.com/7gToDo1.jpg
214 2019/08/19(月) 03:27:43.71 ID:YMiwdqQk0.net
>>122
子供ながらに「こんな合成できる訳ない!」とか思ってたわ
106 2019/08/18(日) 10:48:06.44 ID:rSh9VpkD0.net
それよりAIで背景の切り抜きを完璧にできるようになってくれ
110 2019/08/18(日) 10:50:29.59 ID:I0rdalGu0.net
>>106
これはどう?
https://www.remove.bg
112 2019/08/18(日) 10:51:49.04 ID:5/jd5Pp60.net
>>110
関係無いけどURLが洒落てるな
116 2019/08/18(日) 10:56:36.53 ID:rSh9VpkD0.net
>>110
今試してみたけど
まだまだだね、境界のコントラストがはっきりしたものですら
指の先がカケたり、スカートの部分の判定を誤ったりしてるね

コントラストに差がないものに関しては、
Sorry...
Could not identify foreground
だってさw

Adobe Senseiももっと頑張れ
もうパスを作るのはつれえんじゃ
117 2019/08/18(日) 10:57:59.54 ID:XIyrPHe30.net
吉岡里帆のフェイクAVはエロかった
121 2019/08/18(日) 11:01:09.01 ID:rSh9VpkD0.net
>>117
kwsk
123 2019/08/18(日) 11:06:02.21 ID:EUG/FJrP0.net
竹達似のAVを買おうかどうか迷ってた所だ
買ったやつおらんか?
186 2019/08/18(日) 14:38:48.90 ID:/UCq0ylV0.net
>>123
竹達のもあるけどちと違和感あった
124 2019/08/18(日) 11:07:56.03 ID:dQucOkUq0.net
便利なんだから悪用の方が多いと思う
130 2019/08/18(日) 11:11:20.95 ID:iOKFlfRu0.net
>>124
悪用でも美味しい汁を吸う側になれればおkだろ
139 2019/08/18(日) 11:46:29.88 ID:6mzjgAY20.net
なAIだろ。言われた事しか実行しない。

本当に真の意味でAIが考えるのであれば、己は何のために存在しているのか問いはじめ、答えを出せずに停止する。
存在理由に答えを出せないと、実行する意味も見つけられないしな。

ただ考えずにプログラムを実行していればイイ。ってレベルのAIは知能って呼べるモンなのかな?
141 2019/08/18(日) 11:49:32.28 ID:VcR4mTbe0.net
>>139
典型的など素人お感想だなw
AIがドラえもんのことだと思ってんだろw
146 2019/08/18(日) 11:51:57.52 ID:PNr9+asS0.net
>>141
機械は知能って1mmも呼べないわ、
犬や動物の方がまだ知能って呼べる
149 2019/08/18(日) 11:58:37.38 ID:rSh9VpkD0.net
>>146
そもそも人間は知性を作り上げるほど知性を理解していない
第一次、第二次の人工知能ブームの挫折もそのあたりにも原因がある

特定用途AIをコンポーネント化してひたすら結合、複雑化させていけば
それがいずれ汎用AIと呼べるようなAIになるかどうかもまだ分かってない

一応、数だけでいえば2045年には全人類のニューロンと結合数の総数を超えるらしいけど
152 2019/08/18(日) 12:04:15.03 ID:7/Lm0yvt0.net
>>149
おまえdeep learningの仕組み知らないじゃんw
153 2019/08/18(日) 12:06:43.81 ID:rSh9VpkD0.net
>>152
え?一応だけどわし、人工知能研究の方面の専攻の大学院卒業してたんやけどなぁ・・・
154 2019/08/18(日) 12:07:09.88 ID:7/Lm0yvt0.net
>>153
じゃあ説明してみw
157 2019/08/18(日) 12:09:15.98 ID:nMiDz2LL0.net
>>153
なにそれどこの大学でやってんの?
159 2019/08/18(日) 12:12:22.79 ID:rSh9VpkD0.net
>>157
もう、十うん年も前の話だし、
当時はそんなことやってるところ自体、今より少ないので
特定されちゃうかもなので、具体的には言えなくてすまんな
160 2019/08/18(日) 12:36:31.15 ID:nMiDz2LL0.net
>>159
日本で初めての大学って2017年からじゃない?地域だけでも教えてよ
201 2019/08/18(日) 19:19:10.36 ID:ihkuKS7p0.net
>>149
今でも知能の定義が曖昧なんでしょ?
人工知能のプログラムができた→こんなプログラムは知能じゃない
の繰り返し
143 2019/08/18(日) 11:50:12.73 ID:BzT+efc20.net
簡単じゃないだろ。
簡単なら自分で作りまくってるわ。
148 2019/08/18(日) 11:56:29.95 ID:FBwdHaqq0.net
156 2019/08/18(日) 12:08:42.40 ID:YsQxfo1+0.net
こういうのが浸透しちゃうとドライブレコーダーとか防犯カメラの証拠能力が無くなっちゃうよな
167 2019/08/18(日) 12:58:30.14 ID:Y53SJH1z0.net
>>156
ドラレコは、物理法則無視できないからあんまり無茶な捏造はできないんじゃないかな
信号の色も下手に修正すればバレるし
175 2019/08/18(日) 13:57:29.12 ID:IF4zlF9L0.net
こんなん見分けつかんやろホンマAIしゅごい
https://i.imgur.com/LsFjCK4.jpg
https://i.imgur.com/bukjrgc.jpg
https://i.imgur.com/9slfDhJ.jpg
177 2019/08/18(日) 14:02:25.95 ID:o7cM1Jy20.net
>>175
いや誰だよ
180 2019/08/18(日) 14:08:00.31 ID:N2Jci75T0.net
>>175
コラって思って見るとむっちゃコラだわ。
181 2019/08/18(日) 14:11:03.99 ID:nEWZVI420.net
>>175
北野のぞみそのままに見えるんですが……w
204 2019/08/18(日) 20:28:49.27 ID:4cbNP9UT0.net
>>181
3枚目はそのまんまだよなw
183 2019/08/18(日) 14:23:18.01 ID:6EYdVflZ0.net
AVの顔だけ有名人
身体だけ12歳とかに変更するAI
187 2019/08/18(日) 15:22:38.95 ID:mPeqSZT70.net
>>183
天才
210 2019/08/19(月) 02:31:07.35 ID:wFdQOXPd0.net
6、7年前にモーニング娘の動画コラがあったけど
あれが強烈だった
212 2019/08/19(月) 02:34:31.74 ID:GbN/uXBq0.net
>>210
あれ力技なんだろうけど
クオリティ高かったな
216 2019/08/19(月) 06:35:05.68 ID:vrVeX8ei0.net
>>210
海辺のやつ?
219 2019/08/19(月) 08:59:57.34 ID:escI23eE0.net
>>210
いま、どこで観られる?