AI ランタイムは、ガードレールを使用して、攻撃や望ましくない応答から実稼働アプリケーションをリアルタイムで保護します。このガードレールは、AI モデルと AI アプリケーションの検証で特定された、各モデルの脆弱性に合わせて自動的に設定されます。
基盤モデルは現在、ほとんどの AI アプリケーションの中核をなしており、微調整を経て修正されたもの、または専用に構築されたもののいずれかがあります。モデルを安全でセキュアに保つためにどのような課題に取り組む必要があるのかを紹介します。
検索拡張生成は急速に LLM アプリケーションに豊富なコンテキストを追加するための標準になりつつあります。RAG の具体的なセキュリティと安全性への影響について紹介します。
チャットボットは人気のある LLM アプリケーションであり、ユーザーに代わってアクションを実行する自律エージェントも登場し始めています。セキュリティと安全性のリスクについて紹介します。