生成ＡＩの安全性入門

技術評論社
綿岡晃輝　

• 価格: 3,300円（本体3,000円＋税）
• 発行年月: 2026年07月
• 判型: Ａ５
• ISBN: 9784297157029

内容情報

[BOOKデータベースより]

安全なＡＩを実現するための終わりなき挑戦。ＡＩリスク　ＡＩガバナンス　責任あるＡＩ　モデルスペック　憲法ＡＩ　安全性チューニング　安全性評価ベンチマーク　レッドチーミング　ＡＩセキュリティ　ガードレール　ジェイルブレイク　過剰安全性。

第１章　ＡＩ安全性の基礎
第２章　ＡＩリスクの分類
第３章　ＡＩの理想的な振る舞い
第４章　安全性評価技術：ベンチマーク
第５章　安全性評価技術：レッドチーミング
第６章　安全性向上技術：モデルレベル
第７章　安全性向上技術：システムレベル
第８章　ＡＩ安全性の未来

[日販商品データベースより]

生成AIの進展は社会や産業に大きな変革をもたらす一方、生成AIが生み出す有害なコンテンツや意図しない挙動といったリスクに関する課題が浮き彫りになっています。本書は、エンジニア、研究者を対象に、生成AIにおけるリスクとその対処法を体系的にまとめます。1章ではAI安全性を定義し、近年の動向を概説します。2章では現実に直面する脅威を分類・整理します。3章でOpenAIが公開しているモデルスペックを題材にAIの理想的な振る舞いについて考えます。第4章で安全性に関する評価方法について紹介したあと、5章ではレッドチーミングについて解説します。6章と7章でモデルレベル、システムレベル双方からの安全性向上技術を解説し、最終章でAI安全性の未来について考察します。安全な生成AIの開発と運用に必要となる知識を1冊にまとめます。