注:ブログで公開するにあたって、一部内容を修正しています。
レポート課題: 日常で利用しているインターネット上の具体的なサービス(電子メール、ブログ、インターネット ビジネス、サイバースクールなど)をとりあげ、その利便性と危険性・問題点を説明しなさい。また、 それらの危険性や問題点を回避するための対策を考え、具体的な例を挙げて説明しなさい。
本文
本稿では、日常で利用しているインターネット上のサービスのうち、生成AIについての利便性や危険性、問題点を論じていく。
近年、我々の社会を取り巻くAI技術は凄まじい勢いで進化を遂げている。市場に流通するハードウェアの性能も大きく向上し、手元にスマートフォンが一台あればチャットAIと会話ができて、パーツにこだわれば一般の家庭でもローカル環境に機械学習モデルを実装することが可能になった。
中でも際立つのはOpenAI社が2022年に公開した対話型AIである「ChatGPT」であるが(1)、生成AIのできることは対話にとどまらない。同年にミュンヘン大学の開発グループによって公開されたStable Diffusionはtext-to-image、つまりプロンプトを入力することで画像を生成するAIである(2)。極めつけは先月OpenAI社から公開されたばかりのSora 2であり、これは使用者の命じた内容の動画を生成するAIサービスとなっている(3)。いずれの出力した文章、画像、動画も非常にクオリティが高く、一瞥した程度では人間の作ったものと見分けがつかないほどだ。自然言語をプロンプトにするため、誰がどう使っても完成度の高いものを出力してくれる生成AIだが、そこに多くの落とし穴が存在する。
AIも万能ではなく、誤った情報を提示することがある。「ハルシネーション」と呼ばれる挙動があり、AIが事実に基づかない誤情報を出力してしまう現象のことなのだが、これは先に述べたChatGPTのような、大規模言語モデルを用いた非常に優れたAIであっても頻繁に起こる。
以下にその一例を示す。これは私がChatGPTに、ゲーム「ポケットモンスター」シリーズに登場するキャラクターであるレシラムの育て方について尋ねた会話のログである(4)。
もちろん!🔥
レシラム(Reshiram)は「ドラゴン/ほのお」タイプの伝説ポケモンで、強力な特殊アタッカーとして知られています。以下は、主に 『ポケモン スカーレット・バイオレット(SV)』環境 と 『ポケモンGO』 の両方について「強い技構成」を紹介します。どちらのゲームで知りたいですか?
🔹まずは『ポケモン本編(スカバイ等)』でのおすすめ技構成
【特殊アタッカー型】
性格:ひかえめ or おくびょう
特性:ターボブレイズ(相手の特性を無視して攻撃)
持ち物:こだわりスカーフ/こだわりメガネ/いのちのたま
技構成例:
🔥 ブルーフレア(メイン火力/高威力・命中85)
🐉 りゅうせいぐん or りゅうのはどう(ドラゴン一致技)
💥 だいちのちから(ヒードラン対策・汎用性高)
⚡ りゅうのまい(物理型用)または こごえるかぜ/オーバーヒート/シャドーボール(補助・範囲)
ポイント:
ブルーフレア+りゅうせいぐんの火力で多くの相手を一撃。
特性「ターボブレイズ」により、特性で耐える相手(マルチスケイル・がんじょう等)も貫通できる。
スカーフ型なら高速ドラゴンとも撃ち合える。
ChatGPTから出力されたこの返事だが、おおむね妥当な内容と言える一方で、例えば「ブルーフレア」なる攻撃技はポケットモンスターには存在しない。このように、もっともらしく事実と異なる情報を話すことは珍しくなく、今回の質問については私が知っているポケットモンスターについての誤りだったため、すぐに気づくことができた。しかし、自分のわからない分野についてAIに質問したとき、その一部に不正確な情報が含まれていても発見することは難しいだろう。一見もっともらしい情報でも、AIの提示した情報は鵜呑みにするのではなく、あくまで参考程度にとどめておくのが望ましいと言える。
また、画像や動画を生成するAIについては、出力物の内容が既存の創作物と酷似している場合、著作権侵害にあたる可能性がある。例えば、Retrieval-based Voice Conversion(5)という音声変換AIがある。人間の声を学習し、任意の音声を学習元の声に近づけるボイスチェンジャーツールなのだが、使い方によっては本人と区別できないほどの模倣を可能とする。こうした技術が台頭してから、SNSや動画サイト上に有名な歌手や声優をリファレンスとしたカバー音楽、二次創作アニメ作品などが数多く投稿され続けてきた。しかし、当然ながらこのようなAIの使い方は学習モデルとなる者の仕事を直接的に奪う可能性がある以上、歌手や声優の価値そのものを毀損しかねない。本稿を執筆している時点でも、有志の声優らによって「NOMORE 無断生成AI」という運動が行われている(6)。
シンギュラリティの渦中にいる我々は、個々人のモラルを問われる段階に来ている。なんでも模倣してみせるAIに、何を模倣させると誰にどんな影響が及ぶのか。本来、自身の成熟度を示すためのレポートをAIに代筆させることによって何が起こるのか。技術がいくら発展しても、やはりそれを扱うのは今のところ人間であり、すなわち倫理のコントロールが及ぶ領域に技術はある。現代を生きる我々には、知識と倫理を相補的にアップデートしていくことが求められている。(2139字)
(1)https://chatgpt.com/ja-JP/overview 2025年10月16日閲覧。
(2)https://github.com/Stability-AI/stablediffusion 2025年10月16日閲覧。
(3)https://openai.com/ja-JP/index/sora-2/ 2025年10月16日閲覧。
(4)実際のやり取りのログを添付する。
https://chatgpt.com/share/68f0783e-8f70-8002-960a-4c576e54fe3d 2025年10月16日閲覧。
(5)https://github.com/RVC-Project/Retrieval-based-Voice-Conversion-WebUI 2025年10月16日閲覧。
(6)https://nomore-mudan.com/ 2025年10月16日閲覧。






