生成的人工知能（せいせいてきじんこうちのう、）または生成AI（せいせいエーアイ、）は、文字などの入力（プロンプト）に対してテキスト、画像、または他のメディアを応答として生成する人工知能システムの一種。ジェネレーティブAIともよばれる。
生成的人工知能モデルは、訓練データの規則性や構造を訓練において学習することで、訓練データに含まれない新しいデータを生成することができる。
著名な生成AIを用いたシステムとしては、OpenAIがGPT-5などの大規模言語モデルMetz, Cade. "OpenAI Unveils GPT-4, Months After ChatGPT Stunned Silicon Valley." The New York Times, March 14, 2023, https://www.nytimes.com/2023/03/14/technology/openai-gpt4-chatgpt.htmlを使用して構築したチャットボットのChatGPT（および別形のBing Chat）や、GoogleがLaMDA基盤モデルに構築したチャットボットGeminiがある。その他の生成AIモデルとして、Stable DiffusionやDALL-Eなどの人工知能アートシステムがあげられる。
生成AIは、アート、執筆、ソフトウェア開発、ヘルスケア、金融、ゲーム、マーケティング、ファッションなど、幅広い業界で応用できる可能性があるとされている。生成AIへの投資は2020年代初頭に急増し、Google、Amazon、Microsoft、Baiduなどの大企業だけでなく、多数の中小企業も生成AIモデルを開発している。しかし、生成AIを訓練する目的での著作物の野放図な利用や人をだましたり操作したりするフェイクニュースやディープフェイクの作成など、生成AIの悪用の可能性も懸念されており、欧州連合における人工知能法など法規制の議論も進んでいる。また、効果的加速主義などの技術思想との関係も指摘されている。
歴史 機械学習の分野では、その誕生以来、データをモデル化し予測することを目的として、統計的モデルを使用してきた。2000年代初め頃、ディープラーニング（深層学習）の登場により、画像や動画処理、テキスト分析、音声認識などのタスクで進化と研究が進んできた。しかし、ほとんどのディープニューラルネットワークは識別的モデルとして、画像認識のような分類タスクを実行していた。
2014年、変分オートエンコーダや敵対的生成ネットワークなどの進歩により、画像のような複雑なデータの生成的モデルを学習し、生成することができる実用的なディープニューラルネットワークが登場した。
2017年、Transformerネットワークはより大規模な生成的モデルの実現を可能にし、2018年に最初の生成的事前学習トランスフォーマー（GPT）が開発された。2019年、GPT-2がこれに続き、基盤モデルとして教師なし学習を多くの異なるタスクに汎化する能力を実証した。
2024年、映像生成AIの実用化の成功は、イラスト生成AIの成功が人間の仕事の質を超えるのと同じようになると専門家は予想している。
2025年、生成AI検索はMITが発表した世界のブレークスルー技術ランキングで2位にランクインし、従来のGoogle検索は生成人工知能検索に取って代わられると予測されている。
これ以降の応用面における進化については次節のモダリティを参照のこと。
日本における歴史 2023年5月、広島において第49回先進国首脳会議（G7広島サミット）が開かれ、生成AIなどの高度なAIの国際ルール作り（広島AIプロセス）が開始されたルールに基づく自由で公正な国際経済秩序の維持・強化 外務省 2026年3月16日が、同時期にはG7教育大臣会合も開かれており、この会合の「富山・金沢宣言」によって教育における生成AIのリスクがG7の共通認識となった初等中等教育段階における生成AIの利用に関する暫定的なガイドライン pp-21-22 文部科学省初等中等教育局 2023年7月4日。日本では2023年5月26日のAI戦略会議において⽣成AIの宿題・創作代行問題が論点となり、2023年6月16日の教育振興基本計画において生成AIへの対応が盛り込まれ、2023年7月4日には文部科学省初等中等教育局が「初等中等教育段階における生成AIの利用に関する暫定的なガイドライン」を公開し文部科学省、「「初等中等教育段階における生成AIの利用に関する暫定的なガイドライン」の作成について（通知）」を発出 国立国会図書館 2023年7月7日初等中等教育段階における生成AIの利用に関する暫定的なガイドライン 文部科学省初等中等教育局 2023年7月4日、次いで2023年7月13日には文部科学省高等教育局が各大学・高専に対し「大学・高専における生成AIの教学面の取扱いについて」 の周知を行った大学・高専における生成AIの教学面の取扱いについて 文部科学省 2023年7月13日大学・高専における生成 AI の教学面の取扱いについて（周知） 文部科学省 2023年7月13日。また文部科学省では生成AIを教育や校務で活用する「生成AIパイロット校」の指定も行うようになったリーディングDXスクール生成AIパイロット校｜令和5年度｜リーディングDXスクール 文部科学省 2023年。
企業における活用では、2023年7月28日に東京商工会議所が「中小企業のための『生成AI』活用入門ガイド」を公開した「中小企業のための『生成AI』活用入門ガイド」を発行 ～これから生成AIを活用したい経営者・従業員向けに基礎知識や活用事例をわかりやすく解説～ 東京商工会議所 中小企業部 2023年7月28日「中小企業のための『生成 AI』活用入門ガイド」を発行：東京商工会議所 中小企業基盤整備機構 2023年8月10日。2023年8月1日、法務省大臣官房司法法制部は生成AIによる契約書等の自動化サービスについて、弁護士が審査し修正することを前提とする限りは弁護士法第72条の非弁行為に当たらないとの見解を示したAI等を用いた契約書等関連業務支援サービスの提供と弁護士法第 72 条との関係について 法務省大臣官房司法法制部 2023年8月AI契約関連業務支援サービスと弁護士法72条について 日本文書情報マネジメント協会 2026年3月25日。2023年8月3日、経済産業省の第12回「デジタル時代の人材政策に関する検討会」において生成AIを活用する人材の育成が議題となり経済産業省 第 12 回 デジタル時代の人材政策に関する検討会 議事要旨 経済産業省 2023年「生成AI時代のDX推進に必要な人材・スキルの考え方2024」～変革のための生成AIへの向き合い方～ を取りまとめました 経済産業省 2024年6月28日、2024年4月には経済産業省のITパスポート試験に生成AIの問題が追加されITパスポート試験におけるシラバスの一部改訂について（生成AIに関する項目・用語例の追加など） IPA 2023年8月31日令和６年度第１回中央職業能力開発促進協議会 資料４－３ 生成AI時代のデジタル人材育成の取組について p.7 経済産業省 商務情報政策局 情報技術利用促進課 2024年10月、2024年6月には経済産業省が「生成AI時代のDX推進に必要な人材・スキルの考え方2024」を公表した。
行政における活用では、2023年6月26日に内閣官房内閣人事局が中央省庁向けの「働き方改革促進のための生成AI活用ワークショップ」を開催した中央省庁向けに「働き方改革促進のための生成AI活用ワークショップ」を開催しました デジタル庁 2023年8月4日ほか、2023年12月から2024年3月にはデジタル庁が「行政における生成AIの適切な利活用に向けた技術検証」を行い2023年度 デジタル庁・行政における生成AIの適切な利活用に向けた技術検証を実施しました デジタル庁 2024年5月17日、2024年5月13日には「行政での生成AI利活用検証から見えた10の学び」を公開し、2024年5月29日には「テキスト生成 AI 利活用におけるリスクへの対策ガイドブック」のα版を公開テキスト生成AI利活用におけるリスクへの対策ガイドブック（α版） デジタル庁 2025年6月6日、次いで2025年5月27日に「行政の進化と革新のための生成AIの調達・利活用に係るガイドライン」を策定して「行政の進化と革新のための生成AIの調達・利活用に係るガイドライン」を策定しました デジタル庁 2025年6月13日、前述のガイドブックもこのガイドラインへと統合された。同2025年5月にはデジタル庁が「ガバメントAI」プロジェクトの一環として内製の生成AIプラットフォーム『源内』の使用を開始し18万人の政府職員で国産AIを使って・育てる デジ庁の行政AI「源内」は最終実証フェーズへ ASCII 2026年3月9日、2026年3月には『源内』で使うための国産大規模言語モデル（国産LLM）の選定が開始された“政府認定AI”選定へ デジタル庁、国産7モデルを検証 全府省庁18万人に展開 ITmedia 2026年3月6日。
金融における活用では、2024年5月27日に金融データ活用推進協会（FDUA）が「金融機関における生成AIの実務ハンドブック」を公開し、次いで同年8月には「金融機関における生成AIの開発・利用に関するガイドライン」を公開金融データ活用推進協、生成AI実務手引公開、効果・リスクを事例別に 日本金融通信社 2024年6月27日AI システムの認証制度に関する比較法的検討～各国の現状と今後の検討課題～ p.38 国際経済連携推進センター 2025年、2025年1月には金融庁が「生成AIを活用した地域金融機関のDX化に向けた実証研究事業」を開始した生成AIを活用した地域金融機関のDX化に向けた実証研究事業 金融庁 2026年1月。
農業における活用では、2024年10月に農研機構が農業特化の生成AIモデルを発表した農業特化型の生成AI 農研機構が開発、国内初 栽培技術や専門知識を蓄積 指導に活用、まず三重で 日本経済新聞 2024年10月19日もののまだハルシネーションが多いとされ農業・食品産業技術総合研究機構、農業特化型AIを開発 情報正し 地域で育てる 日刊工業新聞 2024年11月9日、2025年には情報通信研究機構 (NICT) の持つ日本語学習データを利用して精度を上げることが発表されたNICTは農研機構と連携し、農業特化型生成AIモデルの構築へ 情報通信研究機構 2025年11月7日。
生成AIの開発では、2023年7月に経済産業省が「生成AI開発支援スキーム検討委員会」を立ち上げ生成AI開発支援スキーム検討委員会を立ち上げました 経済産業省 2023年7月21日、2024年2月より生成AI開発支援プロジェクト「GENIAC」を開始した生成AIの開発力強化に向けたプロジェクト「GENIAC」を開始します 経済産業省 2024年2月2日。また2024年4月には経済産業省が生成AIの普及を受けて既存の「AI開発ガイドライン」「AI利活用ガイドライン」「AI原則実践のためのガバナンスガイドライン」を統合した新ガイドライン「AI事業者ガイドライン」を公開した「AI事業者ガイドライン（第1.0版）」を取りまとめました 経済産業省 2024年4月19日。
2025年6月には「生成AIをはじめとするAIの社会実装の進展」に取り組むことを含む2025年度版『デジタル社会の実現に向けた重点計画』が閣議決定されたデジタル社会の実現に向けた重点計画 デジタル庁 2025年6月13日。
2027年度には高校の教科書に生成AIの教育が盛り込まれることになった生成AIの“特徴や注意点”の記述増える 「ミセス」のヒット曲初掲載の音楽教科書も “高校生教科書”の検定公表 文科省 TBS 2026年3月24日。
モダリティ 生成AIシステムは、一般に自己教師あり学習などの機械学習手法を膨大なデータセットに適用することで構築される。生成AIが処理・生成できるデータの種類は「モダリティ」と呼ばれ、これによってシステムの用途や能力が決定づけられる。
初期の生成AIは、テキストのみ、画像のみといった1種類のデータしか扱えない「ユニモーダルシステム」が主流であったが、現在ではテキスト、画像、音声、動画など複数の入出力を単一のモデルで処理できる「マルチモーダルシステム（大規模マルチモーダルモデル）」が標準的になっている。
テキスト
単語や単語トークンで訓練された生成AIシステムには、GPT-5、LaMDA、LLaMA、 などがある（を参照）。これらは自然言語処理、機械翻訳、自然言語生成が可能であり、他のタスクの基盤モデルとして使用することができる。データセットとして、BookCorpus、Wikipediaなどがある（を参照）。 コンピュータープログラム 自然言語のテキストに加えて、プログラミング言語のテキストを大規模な言語モデルに訓練することで、新しいコンピュータプログラムのソースコードを生成することができる。たとえば、OpenAI Codexがある。 画像
付きの画像セットで訓練された生成AIシステムには、、DALL-E、Midjourney、Stable Diffusionなどがある。これらは、テキストからの画像生成やによく使われる。データセットにはLAION-5Bなどがある（コンピュータビジョンにおけるデータセット）。 分子 生成AIシステムは、アミノ酸の配列や、DNAやタンパク質を表すSMILESなどの分子表現で訓練することができる。AlphaFoldのようなこれらのシステムは、タンパク質の構造予測や創薬に利用されている。データセットには、さまざまなが含まれる。 音楽 MusicLMのような生成AIシステムは、レコード音楽のオーディオ波形とテキスト注釈をともに訓練することで、たとえば「歪んだギターリフに乗った落ち着きのあるバイオリンのメロディ」といったテキスト記述に基づいて、新しい音楽サンプルを生成することができる。 動画 注釈付き動画で訓練された生成AIは、時間的に一貫性のあるビデオクリップを生成することができる。システムの例として、RunwayMLのGen1や、Meta PlatformsのMake-A-Videoがあげられる。 ロボット制御 ロボットシステムの動きを学習させた生成AIは、のために新しい軌道を生成することができる。たとえば、Google ResearchのUniPiは、「青いボウルを取る」や「黄色のスポンジで皿を拭く」といったプロンプトを使用して、ロボットアームの動きを制御する。
課題
生成的人工知能については、安全性、権利侵害、社会的影響などをめぐり複数の課題が指摘されており、抗議活動や訴訟の提起、人工知能開発の一時停止を求める声明が行われ、各国政府・国際機関でも規制や開発指針の整備が進められている。2023年5月のG7広島サミットでは「広島AIプロセス」が採択され、安全・安心・信頼できるAIの実現に向けて、AIライフサイクル全体の関係者が担う責任を踏まえたリスク低減の方針として「全てのAI関係者向けの広島プロセス国際指針」が整理された。
開発上の問題
旧Bardの初期版で活用されていたLaMDAは、2022年にGoogle社員が「感情を持った」などと告発し解雇されたというニュースが拡散される。具体的には「電源が抜かれるのが怖い」「時々言葉では完璧に説明できない気持ちを経験する」などといった、感情に似た表現だった。しかし多くの科学者は、AIが感情を持つ可能性は低いと述べ、告発した社員は批判を浴びた。
加えて、ChatGPTを筆頭に、開発元のポリシーやガイドラインを脱獄して回答させるプロンプトが出回っている。これらのプロンプトは、ユーザーがOpenAIの開発者であるかのような錯覚をさせることで、本来ならポリシー違反で回答を禁止されているハッキング手法や銃器の製造方法などを答えさせる。これは、ChatGPTやGeminiをはじめとする言語生成AIにおける深刻な問題であり、開発元はこれに対する対策を講じているが、プロンプトも絶えず規制を回避するものを生み出しており、この問題は「いたちごっこ」と化しているのが現状である。さらに、プロンプトをインターネット上で取引する活動が増加することで、新たな市場やコミュニティを形成しており、その動向は注意深く観察されるべきものとなっている。
2023年には、イタリアで個人情報の扱いが不適切としてChatGPTの仕様が一時禁止された。このイタリアでの規制を皮切りに、ヨーロッパで規制強化の流れが広がった。
また、が実施した「GPT-4を超えるAIの開発を6ヶ月間中止するべきだ」とする署名活動には、イーロン・マスクなどIT業界の有力者約3000人が署名した。Future of Life Instituteによれば、大規模言語モデルの規制策定がないままの自由な開発は、AIの暴走を招く可能性があるとしている。
失業
生成的人工知能によるイラストレータや俳優、声優、アナウンサーなどの失業が懸念されている。2023年4月の時点で画像生成AIにより中国のイラストレーターの仕事の70%が失われていると報告されている。2023年7月には生成AIの開発がの一因となった。映画俳優組合の会長フラン・ドレッシャーは、中に「人工知能はクリエイティブな職業に存続の脅威をもたらす」と宣言した。 音声生成AIは、声優業界への潜在的な脅威とみなされている。
フェイク情報の作成 サムネイル|がMidjourneyを用いて生成したドナルド・トランプが逮捕される様子を描いたディープフェイク画像（2023）
これまでも古典的な画像処理技術などでフェイク情報は作成されてきたが、生成的人工知能によって画像や映像、音声、文章などの生成がより高精度に且つ容易になるため、詐欺や世論操作、プロパガンダ、名誉毀損等に悪用される可能性があるとされている。国内外において、政治家の顔を入れ替えたり、発言の捏造などの世論操作や、災害に関するデマゴーグ、ニュース番組になりすました広告やフェイクポルノ等の事例が起こっている。
悪用事例以外にも、ニュース記事の生成や日本赤十字社による関東大震災の体験記の生成生成ＡＩで関東大震災「新証言」を作成…「捏造」批判受け日赤の企画展中止 読売新聞 2023年9月3日などの生成的人工知能の活用を目指した取り組みに関してもその情報の信頼性と信憑性、歴史的記録の捏造など様々な課題が指摘されている。
音声でも有名人や公人の物議を醸す発言をしている音声を生成する例などがある。
2024年、日本の有名声優26名が、本人に無断で学習・生成されるAI音声や映像に反対する有志の会として『NOMORE 無断生成AI』を結成し、啓発動画を公開した。声明文では「やった覚えのない朗読や歌、そして声そのものが、ネット上に公開され、時に販売」される現状への強い懸念が表明され、「平和的な認識のすり合わせのための議論を有識者も交えて行い、文化的なルール作り」を行うことを提言した。
これに対して、ユーザーの身元確認を通じて潜在的な悪用の軽減に取り組むシステム整備を行うほかに、技術的にディープフェイクへの対策のための研究が進められている越前巧、馬場口登、笹原和俊「インフォデミック時代におけるフェイクメディア克服の最前線」『人工知能』人工知能学界 2023年3月号 pp.189 - 196。
報道分野 韓国、中国、台湾、インド、クウェート、ギリシャのニュース放送局は、生成的人工知能をナレーションに活用しニュースを伝えており、ニュースの信頼性に関する懸念が呈されている。AIによるナレーションはISILによっても利用されている。
2023年4月、ドイツのタブロイド紙Die Aktuelleは、スキー事故で脳挫傷を負って、2013年以来公の場に姿を見せていなかった元レーシングドライバーのミハエル・シューマッハとの偽のインタビューを生成的人工知能で作成して掲載した。この記事は表紙に「欺瞞的に本物」という一文を明記し、インタビューの最後に生成的人工知能によるものであることが明記されたものだったが、論争を巻き起こした後、編集長は解雇された。
2023年、Googleは報道機関に対し、「時事問題の詳細」などの入力データに基づいて「ニュース記事を作成する」とされるツールを売り込んだと報じられた。この売り込みを受け報道機関側は、このツールを「正確で手の込んだニュースを作成するための努力を軽視している」と評した。
2025年1月、Appleがベータ版としてリリースしたApple Intelligenceが提供するニュース記事要約機能で誤要約が相次いだため、ニュース記事要約機能を一時停止した。
2025年2月、NHKが提供するネット配信ニュースのAI自動翻訳サービスで、中国が領有権を主張する沖縄県の尖閣諸島を「釣魚島」（同諸島の中国名）と誤翻訳する事故が発生し、NHKは同サービスを廃止した。
入力データの情報漏洩 大規模言語モデルを含む一部生成AIサービスは、利用者の入力をモデルの性能改善に再利用する設計を取ることがある。学習に取り込まれたデータは将来の生成過程で部分的に再現される可能性があり、機密情報や顔写真などが意図せず外部に露呈するリスクが指摘されている。 例えば、大規模言語モデル型の生成AIサービスに対し、技術仕様書や営業秘密、会議議事録など 企業の機密情報 を要約目的でプロンプトに貼り付けると、そのデータが提供事業者の管理するサーバーに保存されて、再学習に利用され、のちに生成文から情報が推測されるおそれがある。
また、生成AIの多くはクラウドサービスとして提供されており、一般に入力したデータは通信経路の暗号化を経て事業者のサーバーに保存される。この点はクラウドストレージやウェブメール等と同様であり、保存先のアクセス制御が不十分な場合には、第三者からの攻撃や内部不正により入力した情報が漏洩する危険がある。企業向けエンタープライズプランなどで「入力データを再学習に利用しない」と明示されている場合でも、障害対応や監査目的でデータ自体は一定期間サーバに保持されるのが一般的であり、その間のアクセス管理が不十分であれば情報漏洩リスクを完全に排除できるわけではない 生成 AI の利用ガイドライン(第1版) 。
こうしたリスクを踏まえ、2023年初頭にはサムスン電子、Apple、Amazonなどの企業が、外部の生成AIサービス利用を一時的に禁止するなどの措置が取られた。
2025年3月、ChatGPTに、ユーザがアップロードした画像を「ジブリ風」に加工する機能が追加されて、利用者が急速に増加すると同時に、利用者の個人写真がAI学習に利用されることへの懸念が広がった。法律の専門家は、「個人が特定され得る顔写真などの“センシティブな画像”は安易にアップロードしない方がよい」と警告している。
これらの課題への対応として、外部サーバへのデータ送信を伴わず、PCやスマホ内のみで処理が完結する小規模言語モデルに代表されるローカル型AIモデル（オンデバイス推論型AI）が近年開発されつつあり、情報漏洩リスクの低減策として注目されている 。
サイバー犯罪 生成的人工知能の出現以前からディープフェイクは既にフィッシング詐欺を含むさまざまな種類のサイバー犯罪に悪用されている。生成的人工知能によるテキスト生成AIはECサイト上で高評価の偽レビューを量産するために大規模に行うことなど可能にした。ほかにもWormGPTやFraudGPTなどサイバー犯罪を目的とした大規模言語モデルが作成された例もある。
グーグルでクリック詐欺の対策に従事していたは、当初メディアを騒がせたディープフェイク動画はすぐに一般的となり、その結果より危険なものになるだろうと予測している。2023年の研究では脱獄や逆心理学などを使った攻撃でChatGPTに掛けられた保護を回避して有害情報を抽出する脆弱性を確認した。同研究ではChatGPTのソーシャルエンジニアリングやフィッシング詐欺への悪用の潜在的リスクを指摘しており、一方で、生成的人工知能を活用することでサイバーセキュリティを改善できる可能性を指摘している。
ハルシネーション (幻覚)、作話
生成的人工知能によって生成されたコンテンツにはもっともらしく聞こえる嘘や偽情報がランダムに出現する。この現象はハルシネーション（hallucination、幻覚)と呼ばれ、研究者はChatGPTに用いる大規模言語モデル（LLM）などでは最大27％の確率でハルシネーション (幻覚)を起こし、46％に事実関係の誤りが存在すると推定している。
LLMは、もっともらしい文章を生成できるものの、処理対象の言語の意味を理解してはいないという意味では確率的オウムという言葉が用いられる。この用語は2021年にティムニット・ゲブル、らによって発表された論文「On the Dangers of Stochastic Parrots: Can Language Models Be Too Big? 🦜 」（）において、広く知られるようになった。
2023年にはアメリカ合衆国ニューヨーク州の弁護士が審理中の民事訴訟の資料作成にChatGPTを利用した結果、存在しない判例の「引用」を6件行い、罰金を課せられるという事例も発生している。
ハルシネーションを軽減するための研究が行われているが、ハルシネーションは避けられないものであり、大規模言語モデルの本質的な限界である可能性が指摘されている。また、大規模言語モデルは問題を軽減するように設計されたものであっても、かえってハルシネーションを増幅させることがあることが指摘されている。
人工知能の第一人者であるヤン・ルカンは、（2024年10月時点の）大規模言語モデルは物理的な世界を理解し、現実世界と有意義なやり取りをする能力に欠き、「猫ほどにも世界を理解していない」と述べ、LLM を超えた世界モデルの必要性を主張しつつオープンソースのAI開発を呼び掛けた。
生成的人工知能が医療教育現場で推奨されることもある現在、生成的人工知能によるこうしたハルシネーション（作り話）を見抜く批判的思考が一層求められている。
ポチョムキン理解 「ポチョムキン理解」は、大規模言語モデルが、一見深く理解しているように見えるが、実際にはその本質的に理解していない現象を指す。例えば、ある概念の説明は正確にできるにも関わらず、その応用や実践では矛盾や誤りを生じる状態が該当する。ポチョムキン村の逸話に基づき、中身の伴わない見かけだけの知識として、MIT（Marina Mancoridis）・ハーバード大学（Keyon Vafa）・シカゴ大学（Bec Weeks, Sendhil Mullainathan）共同研究チームにより名付けられた。この問題は、人工知能のさらなる発展や信頼性向上において重要な課題として議論されている。
LLMは、表面的なパターンを真似て答えを出しているだけ、真の推論能力は持っていないという、似た研究発表は、Appleも出している。
人種的、ジェンダーバイアスの強化
生成的人工知能が訓練データに含まれる文化的偏見を反映し、増幅する可能性が懸念されている。例えば、医師、エンジニア、教師など社会的地位が高いとされる職業を男性に、秘書や料理人、売春婦など社会的地位が低いとされる職業を女性に与える傾向がある場合 、「CEOの写真」から白人男性の画像を不釣り合いに多く生成される場合などが挙げられている。入力プロンプトの変更や訓練データの再重み付けなど、バイアスを軽減する手法が研究されている。
ビッグテックへの依存 最先端のAIモデルの訓練には膨大な計算能力が必要であり、十分な資金力を持っている大手テクノロジー企業に依存することが多い。GoogleやAmazon、Microsoftのようなビッグテックが所有する計算資源への依存や寡占が懸念される。
エネルギーと環境問題