問 7
かえで人材は、仕事を探す人の応募書類にAIで点数を付け、会社に紹介する順を決めている。点数の低かった人から、なぜ低いのかと問合せが来た。ところが、AIは点数だけを出すので、担当者は理由を答えられなかった。
この困りごとを解決するために取り入れるものとして、最も適切なものはどれか。
考え方
AIが答えだけを出し、理由を示さないと、人は答えを確かめることも、相手に説明することもできません。AIの判断の理由や根拠を、人がわかる形で示せるようにしたAIを、説明可能なAI(XAI)といいます。HITLは人の確かめを流れに入れること、オプトアウトポリシーは学習に使わせない決まりで、理由を示すものではありません。
ここを押さえる
AIの判断の理由・根拠を人がわかるように示すなら、XAI。
AIの判断の理由・根拠を人がわかるように示すなら、XAI。
選択肢ごとの解説
○ア
XAIは、AIがその答えを出した理由や根拠を、人がわかる形で示せるようにしたAIです。点数の理由がわかれば、担当者が問合せに答えられます。
×イ
HITLは、AIの仕事の流れの中に、人が確かめたり決めたりする工程を入れることです。人が関わっても、AIが点数の理由を示さなければ、理由はわかりません。
×ウ
入れたデータを、AIの学習に使わないよう利用者が断れる決まりです。応募書類の扱いは守れても、点数の理由を示すことにはつながりません。
×エ
ファクトチェックは、情報が本当かどうかを、元の情報や公的な発表で確かめることです。AIが点数を付けた理由を示す仕組みではありません。