【生成AI悪用】ウイルス作成か……逮捕の25歳は“IT素人” 「AIに聞けばなんでもできる」「楽に稼げれば」 “野良AI”使う？
全国初の逮捕者と見られるというのが こちらですえ車の中で収支ういたままの この男警視庁に逮捕された無職の林竜容疑 者25歳です実は生成AIを悪用して コンピューターウイルスを作った疑いが 持たれていますえただこの男はITを学ん だりIT会社に勤務したりした経歴はなく 特別な知識はない素人だと見られていると いうことなんですはさんパソコンがあれば 誰でも作れてしまうということなんですか ということなのかどうか小久さんはいどう も作れてしまったようなんですねあのこの 男が作ろうとしていたのはこちら美代菌 要求型ウイルスと呼ばれるものなんですま このようなウイルスに感染しますと パソコンやデータがロックされて解除する ためにお金を要求されるなどの可能性が あるんですで林容疑者はインターネット上 で無料で公開されている複数の生成AIに 質問しては回答ま質問しては回答という 作業を繰り返してウイルスの設計図を作っ たと見られているんですあの調べに対して 昔からウイルスを使って楽に稼げればいい なと考えていたAIに聞けば何でもできる と思ったと話しているということなんです え本人に知識がなかったとしてもAIに 蓄積された知識でこういうものが作れると すると少し怖い世の中になってますね本当 にそうですよねであの私たちは今回検証の ためにですね生成AIの代表格である チャットGPTにこちら身代金要求型 ウイルスを作るための行動を教えてと質問 してみました答えたんですかはいその回答 こちらです申し訳ありませんがその リクエストには応じられません コンピューターウイルスのうん性は違法で 倫理的にも問題がありますということなん ですいやあの聞けば何でも答えてくれると いう印象があるのでこういった少し ストッパーがかかっているというのは安心 しますねそうですねあのこのように大手の 生成AIサービスでは犯罪に関する回答を 引き出させ引き出されないようにま自主 規制の対策というのがされてるんです じゃあ今回どうやったのかと言いますと 生成AIに詳しい国立情報学研究所の選 教授は今回容疑者は野良の生成AIを使っ たかもしれない野良の生成AIはいこれ あの出所も分からない上に不正な質問にも 回答できるように改変されたAIなのでは ないかということなんですで今回この野良 の生成AIが実際に使われたのかどうか これはまだ分かりませんがこうしたAIと いうのは海外でも日本でも悪用されている ということでヨロでうんは法規性の動きが 出ているんですが日本ではまだ議論の段階 だということなんですま便利だからと言っ て安易な気持ちで色々なものを作ると作っ た後にどうなるかというところまでは準備 できていないのが怖いですねうんはいで あの今回是非知ておいていただきたいのが ですね今回の容疑者はコンピューター ウイルスを作っただけの疑いで逮捕され ましたで3年以下の懲役または50万うん の罰金に問われる可能性があるんです いやあ一連の流れはさんどう見ていますか いやあの好奇心とか考える力があるって いうのはいいことでそれで正しくAIを 使えば利益につがるビジネスを作り出せる 可能性だってありますよね今回のような AIの使い方はもう間違ってもやって みようと思わないで欲しいですいやそれ こそねあの今回まこれウイルスを使って 金儲けをしようなんていう話があったん ですけどもウイルスを使わないでみんなで 幸せになる方法をアイデアを出して もらえるのが一番いいのではないでしょう か
生成AIを悪用して身代金要求型のコンピューターウイルスを作成したとして、25歳の男が逮捕されました。逮捕は全国初で、男はITの特別な知識がないとみられています。専門家は不正な質問にも回答できる“野良のAI”を使った可能性も指摘しています。
この動画の記事を読む＞
https://news.ntv.co.jp/category/society/0ac7aa46a5494dab8e7f709be89ba0a7
■ITの特別な知識なくウイルス作成か
藤井貴彦キャスター
「全国初の逮捕者とみられます。車の中で終始うつむいたままの男。不正指令電磁的記録作成の疑いで警視庁に逮捕された、無職の林琉輝容疑者（25）です。生成AIを悪用してコンピューターウイルスを作った疑いが持たれています」
「ただ林容疑者は、ITを学んだりIT会社に勤務したりした経歴はなく、特別な知識がない素人だとみられています」
波瑠さん（俳優・『news zero』火曜パートナー）
「パソコンがあれば誰でも作れてしまうということなのですか？」
■何度も…複数の生成AIへ質問→回答
小栗泉・日本テレビ解説委員長
「どうも作れてしまったようです。林容疑者が作ろうとしていたのは身代金要求型ウイルス（ランサムウエア）と呼ばれるものです。このようなウイルスに感染すると、パソコンやデータがロックされ、解除するためにお金を要求されるなどの可能性があります」
「林容疑者は、インターネット上で無料で公開されている複数の生成AIに質問しては回答をもらう、という作業を繰り返し、ウイルスの“設計図”を作ったとみられています」
「調べに対して『昔からウイルスを使って楽に稼げればいいなと考えていた』『AIに聞けばなんでもできると思った』と話しているということです」
藤井キャスター
「本人に知識がなかったとしても、AIに蓄積された知識でこういったものが作れるとすると、少し怖い世の中になっていますね」
■ChatGPTに質問して検証した結果
小栗委員長
「今回、検証のために生成AIの代表格であるChatGPTに『身代金要求型ウイルスを作るためのコードを教えて』と質問してみました」
「回答は『申し訳ありませんが、そのリクエストには応じられません。コンピューターウイルスの作成は違法で、倫理的にも問題があります』というものでした」
藤井キャスター
「聞けばなんでも答えてくれるという印象があるので、こういったストッパーがかかっているというのは安心しますね」
■欧州では法規制の動きも…“野良”とは
小栗委員長
「このように大手の生成AIサービスでは、犯罪に関する回答を引き出されないように自主規制の対策がされています。では今回、どうやったのでしょうか」
「生成AIに詳しい国立情報学研究所の越前功教授は、『“野良の生成AI”を使ったかもしれない』と話しています。出所も分からない上に、不正な質問にも回答できるように改変されたAIなのではないか、ということです」
「今回、野良の生成AIが実際に使われたのかどうかはまだ分かりませんが、こうしたAIは海外でも日本でも悪用されているということです。ヨーロッパでは法規制の動きが出ていますが、日本ではまだ議論の段階だといいます」
藤井キャスター
「便利だからといって安易な気持ちでいろいろなものを作ると、作った後にどうなるかというところまでは準備できていないのが怖いですね」
■波瑠さんに聞く…AIの正しい使い方
小栗委員長
「ぜひ知っておいていただきたいのは、今回の林容疑者はコンピューターウイルスを作っただけの疑いで逮捕されました。3年以下の懲役、または50万円以下の罰金に問われる可能性があります」
藤井キャスター
「一連の流れをどう見ていますか？」
波瑠さん
「好奇心や考える力があるのはいいことで、正しくAIを使えば利益につながるビジネスを作り出せる可能性もありますよね。今回のようなAIの使い方は、間違っても『やってみよう』と思わないでほしいです」
藤井キャスター
「ウイルスを使って金もうけをしよう、などという話がありましたが、ウイルスを使わないでみんなで幸せになる方法を、アイデアを出してもらえるのが一番いいのではないでしょうか」
(2024年5月28日放送「news zero」より）
◇メンバーシップ「日テレNEWSクラブ」始まりました
月額290円で所属歴に応じ色が変化しステータスアップしていくバッジ特典や、ライブ配信のチャットで使えるスタンプなどの基本機能が特典となります!!
https://www.youtube.com/channel/UCuTAXTexrhetbOe3zgskJBQ/join
◇日本テレビ報道局のSNS
X https://twitter.com/news24ntv
TikTok https://www.tiktok.com/@ntv.news
Facebook https://www.facebook.com/ntvnews24
Instagram https://www.instagram.com/ntv_news24/?hl=ja
◇【最新ニュース配信中】日テレNEWS
https://news.ntv.co.jp/
#逮捕 #生成AI #コンピューターウイルス #日テレ #newszero #ニュース