問 5
しらかば建設は、社員の出張の手配をAIエージェントに任せることにした。
このAIエージェントに設けるガードレールの例として、最も適切なものはどれか。
考え方
ガードレールは、AIがしてはいけないことを先に決めて、はみ出さないようにする柵です。安全性への配慮、倫理的配慮、法令順守などを考えて決めます。契約した予約サイトの外で予約させないのは、安全性への配慮の例と考えられます。ばらつきの調整はランダム性の制御、資料を添えるのはRAG、月末の知らせは後からの報告で、どれも先に決めておく柵ではありません。
ここを押さえる
「AIの行動に制限をかけ、安全・倫理・法令から外れないようにする」ならガードレール。
「AIの行動に制限をかけ、安全・倫理・法令から外れないようにする」ならガードレール。
選択肢ごとの解説
×ア
答えのばらつきを調整するのは、ランダム性の制御です。毎回同じ手配になっても、してはいけないことを止める柵にはなりません。
○イ
AIがしてはいけないことを先に決めて、はみ出さないようにする柵がガードレールです。契約していない所で予約や支払いをさせないのは、安全性への配慮の例と考えられます。
×ウ
資料を探して添えて答えさせるのは、検索拡張生成(RAG:Retrieval-Augmented Generation)です。資料を渡しても、決まりを外れた動きを止める柵を決めたことにはなりません。
×エ
終わった後で知らせるのは、結果の報告です。してはいけない予約を、する前に止める柵にはなりません。ガードレールは、はみ出さない範囲を先に決めるものです。