本サイトはアフィリエイト広告を利用しています
韓国人「イ・グクジョン教授の偽AIチャンネルが60万人を騙した」→「詐欺師は厳罰に処すべき」
イ・グクジョン国軍大田病院長を騙る医療情報チャンネルが横行しています。このチャンネルは、検証されていない危険な応急処置法を広めたり、イ院長の声にディープフェイク技術を使ったりして視聴者を混乱させており、特別な注意が必要です。
27日現在、登録者数4万1500人を達成したYouTubeチャンネル「イ・グクジョン教授の助言」は、イ院長の顔写真にAI音声を重ねた動画を次々と投稿しています。特に、22日にアップロードされた「心臓発作が一人でいる時に来たら、この10秒を知らなければ死にます」というタイトルの動画は、わずか1週間で約67万回再生され、急速に拡散しました。
この動画は、心臓発作の前兆が現れた際の対処法として、2秒間隔で強く咳をする、胸の中央を叩く、特定のツボを刺激するなどを提示しています。しかし、医療界はこれらの方法に医学的根拠がなく、かえってゴールデンタイムを遅らせる可能性があると警告しています。急性心疾患が疑われる場合は、直ちに119番通報し、医療機関に搬送することが唯一の対応だと説明されています。
●「尊敬します」と応援コメントが殺到…動画にはAI特有の誤りも発見
問題は、虚偽情報であるにもかかわらず、視聴者の反応が非常に熱いことです。この動画には約3万5000件の「いいね」が付き、コメントは2000件を超えました。このチャンネルは、同様の趣旨の動画を継続的に投稿していることが確認されています。ディープフェイク技術が精巧になるにつれて、実際にイ院長が運営するチャンネルだと誤解する視聴者も現れました。ネットユーザーたちは「イ・グクジョン教授、尊敬します」「ニュースでお見かけした素晴らしい方をYouTubeで拝見できて嬉しい」などと応援コメントを残しています。しかし、チャンネルを詳しく見ると、AI特有の誤りも確認できます。緊急電話の119を不自然に読んだり、文法が不自然な説明が繰り返されたりしますが、一般の利用者がこれを即座に識別するのは容易ではありません。同様の背景と形式を使用する登録者数約1万1700人の別のチャンネルも、同様の趣旨の動画をアップロードしていることが確認されています。このチャンネルは、動画内でイ院長ではなくAIの顔写真を使用し、専門家のアドバイスであるかのように誤った健康情報を投稿しています。
●軍当局「なりすましアカウントを措置中」…プラットフォームの責任論も拡大
論争が広がるにつれて、国防部とイ院長側は、当該アカウントに対して個人情報侵害の通報などの公式対応に乗り出しました。国防部関係者は「当該チャンネルはイ院長とは無関係であり、軍当局もなりすましアカウントに対して措置を取った状態だ」と明らかにしました。ただし、AIベースのなりすましコンテンツが急速に拡散する状況において、プラットフォームの事前遮断機能が不十分だという指摘も提起されています。韓国消費者院も最近、医師なりすましAI広告やコンテンツについて消費者に注意を呼びかけています。
現在、なりすましの疑いが持たれているチャンネルは、掲示板を通じて「健康知識を共有できて嬉しい」という投稿をするなど、特段の制裁もなく運営を続けています。
引用元記事:https://n.news.naver.com/article/020/0003707572
AIの区別がつかない人たちのほとんどは60代、70代、80代の高齢者です…。この方々がフェイクニュースYouTuberの資金源でありターゲット。扇動にも弱いため、高齢者向けのAI教育が必要な気がします…まあ、やったところで変わるのかと言われればそうかもしれませんが…。
偽物を生産・流布する奴は、初犯だからといって寛大に見過ごしてはいけません。針泥棒が大泥棒になるという諺もあります。
最近、こういう偽のYouTuberが多すぎます。対策が必要です。
これを見ると、韓国人はあまり賢い民族ではないようです。偽物と本物の区別ができない。
イ・グクジョン院長は現役の軍人（国軍病院長）なのに、チュンジュマンでもないのに、常識的に個人YouTubeなんてやるわけがない…騙された人がいるのか？
私もあの動画を見た時、イ・グクジョン教授が本当にこんなに長々と話す人なのか？と疑念が湧き、結局偽物だと結論付けました。
私もYouTubeで検索中に動画を少し見ましたが、偽物だと思ってすぐに止めました。こんな偽動画を上げた奴を見つけ出して厳罰に処すべきです。
YouTubeや動画、記事などを見て医学や健康を気遣うという考え自体が間違っている。たとえきちんと作られたものでも、小さな参考用でしかなく、問題を感じたら病院に行き、問題がなくても定期検診くらいは2年程度の間隔で受け、日常は常識的な範囲で暮らすべきだ。そういうものを探し求めるから、あんなものも生まれるんだ。健康にそこまで真剣なら病院に行って医者の言うことを聞くか、さもなくば他人の言うことは一切聞かず、自分の信念で楽しく生きていけばいいのに、聞くべきではないものにばかり関心があるからだ。
カンボジアに行った連中がロマンス詐欺を仕掛ける時、顔も声もAIで操作して騙すじゃないですか。それに引っかかる。でも、その人が顔の区別ができないからそうなると思いますか？声も顔も精巧に作ります。あれは見たところ粗末に作られていますが、その技術は2020年代初頭からずっと作られていました。今では区別するのが非常に難しくなっています。deepfake detectionと検索してみてください。完全に印象が変わります。専門家でも肉眼では区別が難しいレベルにまで来ています。
それに、イ・グクジョン教授くらいの立場になれば、自分が何かになったかのように話したりはしません。ただ、このような本にこう書いてある、このような論文にこのようなものがある、と話すでしょうし、関心があって当然そのような本や論文を見れば、すでに嘘が暴かれるので意味がありません。愚かな人が騙される理由は一つで、あれが本物なのかと基本的に疑う態度自体がないということです。
あれは粗悪なAIを使っているからそうなのであって、本当に精巧に作れば声も顔も全て可能です。ボイスフィッシングの一味がSNSの子供の顔と声で詐欺を働くケースもあります。香港ではCEOの顔と声をAIで使ってビデオ通話をかけ、それに騙された社員が350億ウォンを送金した事件もありました。ビデオ通話やメッセージなどで知人が突然お金を要求する時、「時間がない」「急いでいる」などと言って、他の人に話さないように言われたら、すぐに知人本人であるか確認し、状況が深刻だと思ったらすぐに警察に電話する方が良いです。私が解決すると言って理性を失った瞬間、お金を全て奪われます。
AIの区別がつかない太極旗部隊の人たちですね。糞と味噌の区別がつかないから大変だ。糞に応援しているのだから。まったく、よく見て応援しろよ。今の時代に。
単に遮断するだけでは、別の方法でまた一儲けするのが目に見えている。いっそのこと、このような形で捕まったら二度とやろうと思わないように処罰すべきだ。
ディープフェイクの処罰は厳しく宣伝されたから、捕まれば10年だ。
