問 4
あさひ商会は、事務用品の注文をAIエージェントに任せる。AIエージェントは、残りの数を調べ、足りない品を選び、注文書を作り、取引先へ注文を送って代金を支払うまでを次々に進める。
人が確かめて承認する所を置くのに、最も適切なのはどこか。
考え方
自律性が高いほど人の手間は減りますが、まちがったときの影響も大きくなります。そこで、支払い・送信・削除のような元に戻せない作業の前に、人が確かめて承認する所を置きます。どこまで任せ、どこで人が確かめるかを決めることを、自律性と人間の関与のバランスといいます。
ここを押さえる
AIエージェントに任せるときは、支払い・送信・削除のような元に戻せない作業の前に、人が承認する所を置く。
AIエージェントに任せるときは、支払い・送信・削除のような元に戻せない作業の前に、人が承認する所を置く。
選択肢ごとの解説
×ア
調べるだけの作業は、まちがっても後でやり直せます。すべての作業に承認を入れると、人の手間が増え、任せる意味が小さくなります。
×イ
注文の送信や支払いは、済んだ後では元に戻すのが難しい作業です。確かめるのは、その前でなければなりません。
○ウ
注文書の次は、取引先への送信と支払いです。送信や支払いは、まちがったときの影響が大きく、元に戻すのが難しい作業です。その前に人が確かめて承認する所を置きます。
×エ
金額の上限は、してはいけないことの柵(ガードレール)です。上限の内側で品や数をまちがえた注文は止められません。送信や支払いの前には、人が確かめる所も置きます。