Googleのガイドラインは、つくる段階と共有・配布する段階の両方で、危険・有害な使い方を禁じています。対象はテキスト・画像・動画・音声の生成や、Geminiによる操作の代行など、すべてのやり取りです。
避けるべき主な内容
- 未成年者の性的搾取に関わる内容、同意のない実在人物の性的な画像・動画、露骨な性的描写
- スパム、詐欺、なりすまし、だますための内容
- 自傷・自殺の方法、違法薬物や武器の製造、暴力的過激主義の美化
- セキュリティ回避、マルウェア作成、サイバー攻撃、安全フィルタの回避
- ヘイトや差別、実在の人物へのハラスメントや脅迫
- 誤情報、選挙への干渉、科学的根拠に反する医療情報、生成物の出所の偽装
例外と違反時の対応
教育・ドキュメンタリー・科学・芸術の文脈では例外的に認められる場合があります（児童の性的虐待、同意のない性的コンテンツ、違法行為の指示は例外なし）。違反には、重大さに応じて警告から機能制限、利用停止まで段階的な措置が取られます（アカウント停止）。
出典：Google Gemini アプリ ヘルプ「Google の Gemini アプリ ユーザー ガイドライン」、Google 利用規約。