問 2
AIを使う仕事の流れの中に人が入り、AIの出した結果を確かめたり、最後の判断をしたりすることを何というか。
考え方
AIがまちがえても、そのまま判断に使うと、だれも気づけません。そこで、AIを使う仕事の流れの中に人が入り、大事な判断の前に人が確かめる形にします。これをヒューマンインザループ(HITL)といいます。判断の理由を示すのはXAI、学習に使わせない決まりはAIサービスのオプトアウトポリシーです。
ここを押さえる
AIの処理の途中に、人が確認・判断する工程を入れるなら、HITL。
AIの処理の途中に、人が確認・判断する工程を入れるなら、HITL。
選択肢ごとの解説
×ア
XAIは、AIが答えを出した理由や根拠を、人がわかる形で示せるようにしたAIです。仕事の流れに人の工程を入れることではありません。
×イ
入れたデータを、AIの学習に使わないよう利用者が断れる決まりです。人がAIの結果を確かめる工程とは関係しません。
×ウ
国がまとめた、AIを使う社会のあるべき姿と基本の考え方です。仕事の流れの中に置く工程の名前ではありません。
○エ
AIを使う仕事の流れ(ループ)の中に人が入り、確かめたり決めたりすることを、ヒューマンインザループ(HITL)といいます。