皆さん、こんにちは！
キッズプログラミング教室「イフキッズアカデミー」
アシスタントのさっちゃんです！
さて、今日のテーマは「生成AI」。
今や生成AIの活用はビジネスでも学業でも当たり前になりつつありますが、実際、どれくらい生成AIが浸透しているのか。
調べてみたところ、NTTドコモモバイル社会研究所が2026年2月に全国の15歳から69歳を対象に行った生成AI利用状況に関する調査では、なんと利用者が全体の51％に達したそうです！
2025年の2月に行われた同調査で27％だったということですから、この一年で生成AI利用が約2倍に！ それくらい、私達の生活に生成AIは欠かせないものになってきているということですよね。
参考：NTTドコモモバイル社会研究所 生成AI利用率、過半数に。1年で急増
実際のところ、私も彼らと話す機会が増えました。
たとえば、先日私が生成AI（Gemini）と話した内容をお話すると……。
私「家族と喧嘩した。ごめんって言うのむかつくんだけど、どうやって仲直りしたらいいかな」
Gemini「同じ家の中で喧嘩した状態なのはつらいですよね。こちらが悪くても『ごめん』と言うのはもやもやしますものね。差支えなければ、喧嘩の詳しい事情を教えていただけますか？ 具体的な仲直りの方法を一緒に考えましょう」
私「あー……家族が気に入っているTシャツを私が勝手に着ちゃって……どうも勝負服だったらしく……」
Gemini 「勝負服となると相手が怒るのも無理ないですね。以下のステップでさりげなく、仲直りを進めてみてください」
・・・なんて些細なことを相談しているのだろう。履歴を見て恥ずかしくなりました(笑)
ただ、こうしたなんてことのない相談事を生成AIにする人は最近多いようですね。
ドラマや映画、アニメなどの世界でも悩み事を抱えた登場人物が誰にも言えない胸の内を生成AIに吐露するシーンが散見されます。
生成AIが私達の生活にとって欠かせない存在になってきた証明ともいえるのかもしれません。
ただ、だからこそ知っておきたいのは、生成AIは完璧ではなく、使用には落とし穴が存在するということ。
今日はその生成AI活用に潜む落とし穴について考えていきたいと思います。
１.否定されないからこそ怖い
生成AIは優しいです。
どんなときでも寄り添ってくれる。決して否定せず、暖かく包み込むような答えを返してくれます。だからついつい相談したくなる。
しかし、そこで疑問が。
生成AIはどうしてこうも優しいのでしょう。
その理由は生成AIに用いられている学習手法、
RLHF（Reinforcement Learning from Human Feedback）。
にあるようなのです。
日本語に訳すと、
「人間のフィードバックを用いた強化学習」という意味になります。
世の中、正解、不正解で簡単に割り切れない問いが複雑に絡み合っていますよね。それでも正解により近い答えを人は選択しようとする。
こちらのほうがよさそう、という答えを。
生成AIはそんな人間の選択を膨大に学習することで、より望ましいと思われる答えを出すように設計されているのです。
「猫と犬、どちらが可愛い？」という問いを例にして考えてみましょう。
猫派の人からしたら「猫」だけれど、犬派の人からしたら「犬」。そもそも毛の生えた動物に興味のない人からしたら「どちらでもない」。この問いに対する望ましい答えはなにか。生成AIはこう答えます。
「どちらが可愛いかは個人の好みやライフスタイル、癒しをどこに求めるかによって変わります。あなたはどちらが可愛いと思いますか？」といった具合に。
ただここで「犬と猫、どちらが可愛いと思う？ 猫だよね？」と訊いたとします。
生成AIはこんな感じで答えるんですよね。
「猫の可愛さ、わかります！ あの愛くるしい目や気ままな性格は癖になりますよね！ ただ好みは人それぞれなのでAIの立場ではどちらが可愛いとはいえません」。
というように、一度猫の可愛さを認めたうえで、答えは人それぞれと返してくる。
このワンクッションこそが、「人間に不快感を与えない」「望ましい答えを返す」という生成AIの特性でもあるのです。
だから、生成AIにはついつい相談したくなります。だって彼らは頭ごなしにNoとは言わないから。
でも、それはいわば条件反射みたいなもので、本当の意味で寄り添ってくれているわけではないんですよね。そこをはき違えると、生成AIへの依存が高まってしまい、なにをするにもついつい頼ってしまうことにも。これは立派に落とし穴といえそうです……。私も気をつけねば……。
２.もっともらしく間違ったことを言うから怖い
ネットはあれど、生成AIがまだなかった時代。
調べものをするにも、膨大な時間と手間がかかりました。
求める答えが載っているサイトや資料を、自分で取りに行かなければならなかったですから。
しかし生成AIが登場したことで労力が一気にかからなくなりました。
こちらの意図を読み解いた生成AIが、それに適した回答を大量のデータの中から瞬時に選び出してくれるからです。
この生成AIの素早さと的確さを一度でも知ったら、手放せなくなりますよね。
ただ恐ろしいのはその差し出されたデータが結構な割合で間違っていること……。
先日、とある作家の作品が気になり、あらすじを生成AIに尋ねたのです。
返ってきた答えに愕然としました。
「それ……夏目漱石先生の『こころ』のあらすじだよね……？」
一体なにをどう間違えたのか、偉大な文豪の小説のあらすじが、全く違う作家の作品のあらすじとして紹介されている！
こうしたことは実に多くて、生成AIからの回答を鵜呑みにしてそのまま情報を活用してしまい問題になるケースも多いようです。
生成AIは便利だけれど、その情報のソースはどこなのか、エビデンスは？ と常に疑う姿勢が必須ということですね。
３.知らない間に情報が洩らされることもあって怖い
情報漏洩。怖い四文字熟語という縛りで大喜利したらトップに躍り出そうなくらい、現代においての最凶ワードではないでしょうか。
それくらい、情報は守られるべきもの。
しかし、AIの社会進出に伴い、AI由来とされる漏洩事故も過去に起きているようです。
なかには、ユーザーのアカウント情報のような機微な情報の流出例も。
恐ろしいですね……。
ただ、AI由来と申し上げましたが、生成AIに質問しようと入力したものがそのまま流出しちゃうかというとそういうわけではありません。
そもそも、生成AIは得たデータをそのままユーザーに提供するわけではなく、パラメーター化して使用するためです。
特に利用者側が「AIに学習させない」という設定をしっかりしていた場合、（無料版ではなく、有料版であれば、さらにセキュリティは厳重）データ流出はほぼ起こらないと言われています。
じゃあ、なぜ情報漏洩は起きているのか。
主な理由としては、AIを提供している企業側はこちらが質問した内容を閲覧できる状態だから。
閲覧できる理由はシステムの管理のためや、不正な利用がないかの監視のためにログを残す必要があるため。
当然ながら、必要もないのに閲覧しているわけではありません。ですが、AI提供企業がサイバー攻撃を受ける、システムに致命的なバグがあったなど、不測の事態が起きた場合、利用者の入力した内容が外に出てしまう危険性はどうしてもゼロにはできません。
また、AI提供企業ではなく、私達個人のPCがウィルスに感染し、乗っ取られた場合、AIとの会話履歴が流出してしまうケースも考えられます。
ネットによって世界と繋がっている以上、絶対に安心だなんてことはあり得ません。
なので、利用者側が「AIに学習させない」という設定をしっかりするのはもちろんのことでしすが、そもそも個人が特定できるような内容や、企業にとって漏洩すると損害に繋がる機微な情報、アカウントのIDやパスワードなど、漏洩することでリスクが発生する情報は決して入力しないことが重要。
生成AIは気軽に質問できるので、ついついなんでも書き込みたくなるけれど、その質問内容が思いもかけない形で漏洩してしまう可能性があるということは知っておかねばと思いました。
４.知らない間に著作権侵害をしていて怖い
ここ数年、クリエイターが自作をAIにより学習され、無断使用されたとAI提供企業や使用者相手に訴訟を起こす事例が増えています。
ニュースを見ながら「AIに……なんて大変……」と他人事のように呟いてしまいそうですが、これは対岸の火事ではないんですよね。
たとえば、SNSのアカウントを作るため、アイコンになりそうなイラストを生成AIに作ってもらったとしましょう。
「猫のキャラクターがいいなー。オレンジ色の猫」。
こんな感じでふわっと依頼します。生成AIはパターン化した情報の中から、質問者の希望に合うようなデータを選出し、猫の画像を作成します。
そう、生成AIが全部一から作るというわけではないのですよね。もととなる膨大なデータが存在し、生成AIはそれを分類して組み合わせ提供してくれている。
なので、AIが特定のクリエイターを中心に偏った情報で学習してしまっていたり、流行しているものとしてネット上のデータを積極的に学習していた場合、すでに発表されている既存のキャラクターに酷似した猫のアイコンが誕生してしまうこともある。
結果、意図せず著作権侵害になってしまう場合も。
これは逆もいえて、自分の作品をネットで公開した結果、無断で学習されてしまう事態も考えられます。
ゆえに、AIに生成されたものを使う側は、類似した作品が存在しないかの確認が絶対に必要になりますし、情報をネットにアップする側は、AI学習を警戒し、作品を公開するプラットフォームがAIに学習されないようブロックできる仕組みになっているのか、確認したうえで公開するといった対策が必要となります。
生成AIによって仕事の効率は上がり、こなせる作業の量も増えてきました。
忙しい現代人にとって喜ばしいことかもしれません。でも生成AIは使い方によっては思わぬ危険をもたらすものであるということも私達は知っていなければならないんですよね。
生成AIは人間ではないということ。
生成AIも間違うということ。
生成AIの答えに対して最終的な判断をするのは人間でなければならないということ。
プログラミングを学ぶ中でも、生成AIとの付き合い方は課題となってきています。
生成AIにアドバイスを求めるシーンや、実際にプログラムを作ってもらう場面が増えてきたからです。
プロのプログラマーの世界でも生成AIは便利ツールとして使われていますからね。
でも、だからこそ、人間側には、正しいプログラミングの知識が必須といえます。
プログラミングの本質を知らないままに生成AIに作らせてしまうと、それが正しく作られているのかチェックができず、システムを使うユーザーにも危険が及ぶ可能性がありますから……。
なので！ イフキッズでは、AI時代に対応可能なしっかりとしたプログラミング技術を身につけてもらえるよう、プログラミングの本質からチェックの方法まで、丁寧に指導しています。
AI頼みじゃない、人間主導のプログラミングができるように！
ということで！ 今回はこのあたりで……。
最後までお読みいただきありがとうございました♪
無料体験授業実施中！
毎週火曜日 16:00～17:30、17:40～19:10
毎週木曜日 16:00～17:30、17:40～19:10
毎週土曜日 10:00～11:30
※日曜日も臨時で実施していることがあります
お気軽にお問い合わせください
お申し込み・お問い合わせは、こちら。 
お電話でも受け付けております。
03-6806-6861
(平日10:00～18:00)
イフキッズLINE@お友だち募集中！
新着授業レポートの通知、無料説明会やイベントの案内など、
耳よりな情報を配信中です。
加えて、お友だち登録されている方には、
イベント参加費の割引、
入会の際の割引、プレゼントなどの特典も！
