この章で学ぶこと
- 情報倫理と情報モラルデジタルシティズンシップ・ネチケット・撮影や配信の同意・デジタルタトゥー・ヘイトスピーチ・トロッコ問題・フィルタリング・ペアレンタルコントロールを説明できる。
- メールの正しい使い方TO・CC・BCC、メーリングリストを使い分け、メールの誤送信を防ぐ動き方を選べる。
- 正しい情報とうその情報ねつ造・改ざん・盗用、フェイクニュースとファクトチェック、エコーチェンバーとフィルターバブル、偽情報・誤情報・悪意ある情報を見分けられる。
- AI倫理とAIガバナンス説明可能なAI(XAI)、ヒューマンインザループ(HITL)、AIサービスのオプトアウトポリシーを説明できる。
- AIのリスクと脅威セキュリティ・プライバシーへの懸念、信頼性の課題、倫理・法的リスク、フロンティアAIによるリスクと脅威、ハルシネーションなどの出力の問題を見分けられる。
1情報倫理と情報モラル
デジタルの社会で、正しくふるまうための考え方(情報倫理・デジタルシティズンシップ・ネチケット)と、人の権利を守ること(撮影や配信の同意・ヘイトスピーチ)、ネットに残り続ける情報(デジタルタトゥー)、正解のない問い(トロッコ問題)、子どもを守るしくみ(フィルタリング・ペアレンタルコントロール)を学びます。
情報倫理とデジタルシティズンシップ
情報を扱うときに、人として守るべき考え方を情報倫理といい、それに沿った日々のふるまい方を情報モラルといいます。
デジタルの技術を使って、社会に進んで関わり、責任を持って正しく使いこなせる、社会の一員としての力をデジタルシティズンシップといいます。「してはいけないこと」を守るだけでなく、デジタルの道具をよりよい社会のために上手に使うことを大事にする考え方です。ネットの上で守るべき礼儀をネチケット(ネットマナー)といいます。
撮影・録音・配信の同意とヘイトスピーチ
写真や動画を撮る、声を録る、ネットで配信するときは、写っている人や声が入る人に、先に許しをもらいます。許しのない人は、写したり、載せたりしません。人には、勝手に撮られたり公開されたりしない権利があるからです。
人種・国籍・宗教・性別などを理由に、特定の人や集団を差別し、おとしめる言動をヘイトスピーチといいます。
デジタルタトゥー
一度ネットに出た情報は、写されたり広められたりして、元を消しても、消せずに残り続けることがあります。このことを、消せない入れ墨(タトゥー)にたとえてデジタルタトゥーといいます。ネットに書込む前に、ずっと残っても困らないかを考えます。
トロッコ問題とフィルタリング・ペアレンタルコントロール
止まれないトロッコの先に5人がいて、進む向きを変えると1人をひいてしまう、というとき、向きを変えるべきか、という問いをトロッコ問題といいます。正解のない、倫理の難しい問いの例で、自動運転の車が事故を避けられないとき、どう判断させるか、といった問題を考えるときに挙げられます。
見せたくない有害なWebサイトなどを見られないようにするしくみをフィルタリングといいます。保護者が、子どもの使うスマートフォンなどで、見られるサイトや、使える時間・アプリを決めて管理するしくみをペアレンタルコントロールといいます。
2メールの正しい使い方
何人もにメールを送るときの宛先の使い分け(TO・CC・BCC)と、決まった人たちへまとめて送るしくみ(メーリングリスト)、送りまちがい(誤送信)の防ぎ方を学びます。
TO・CC・BCC
同じメールを、何人もの宛先に一度に送ることを同報といいます。同報のときは、宛先の欄を使い分けます。ほかの受け取った人にアドレスを見せずに送る宛先の欄をBCCといいます。宛先の欄には、次の3つがあります。
- TO
- メールを読んで、対応してほしい相手。受け取った人全員に、アドレスが見える。
- CC
- 念のため、内容を知っておいてほしい相手。受け取った人全員に、アドレスが見える。
- BCC
- ほかの受け取った人に、アドレスを見せずに送る相手。
たとえば、互いに知らない25人の客に、一度に案内を送るときは、全員をBCCに入れます。TOやCCに入れると、客どうしにメールアドレスが見えてしまい、個人情報が漏れることになります。
3人とも同じメールを受け取りますが、受け取った人の画面には、TOとCCのアドレスだけが出ます。BCCに入れた人のアドレスは、ほかの受け取った人には見えません。
メーリングリスト
1つの代表のアドレスにメールを送ると、登録している人全員に、同じメールが届くしくみをメーリングリストといいます。部署やサークルの全員への連絡などに使います。誰が登録されているかを確かめてから使います。同報は送る人が宛先を一人ずつ並べて送るのに対し、メーリングリストは代表のアドレス1つに送るだけで、登録した全員に届きます。
メール誤送信を防ぐ
宛先をまちがえたり、ちがうファイルを付けたりして送ってしまうことを、メール誤送信といいます。一度送ったメールは、取り戻せません。送る前に、宛先の欄と、付けたファイルを見直します。
3正しい情報とうその情報
データの不正な扱い(ねつ造・改ざん・盗用)と、うその知らせ(フェイクニュース)と事実の確かめ(ファクトチェック)、偏った情報に囲まれること(エコーチェンバー・フィルターバブル)、まちがった情報の3つの種類(偽情報・誤情報・悪意ある情報)を学びます。
ねつ造・改ざん・盗用
仕事や研究のデータを、不正に扱うことには、次の3つがあります。
- データのねつ造
- ないデータや結果を、あったかのように作り出す。
- データの改ざん
- 本物のデータや結果を、都合のよいように書き換える。
- データの盗用
- 他人のデータや考えを、元を示さずに、自分のもののように使う。
フェイクニュースとファクトチェック
本当のことのように見せかけた、うその知らせをフェイクニュースといいます。SNSなどで、たちまち広まることがあります。情報を信じたり広めたりする前に、元の情報や、国・会社などの公的な発表を調べて、本当かどうかを確かめることをファクトチェックといいます。
エコーチェンバーとフィルターバブル
SNSなどで、自分と同じ考えの人ばかりとつながり、同じ意見ばかりが返ってくるので、その考えが正しいと思い込んでいくことをエコーチェンバーといいます。声が響き合う部屋(エコーチェンバー)にたとえた言葉です。
Webのサービスが、利用者の好みや見た記録に合わせて、好みに合う情報ばかりを選んで見せるので、利用者が、泡(バブル)に包まれたように、それ以外の情報に触れにくくなることをフィルターバブルといいます。
人とのつながりで同じ意見ばかりになるのがエコーチェンバー、サービスが好みの情報ばかり見せるのがフィルターバブルです。
偽情報・誤情報・悪意ある情報
まちがった情報や、人を傷つける情報は、作った人の気持ちで3つに分けられます。だますつもりはないまちがった情報を誤情報(ミスインフォメーション)、だますつもりで、うそだと分かって作った情報を偽情報(ディスインフォメーション)、本当の情報を、人を傷つける目的で使うものを悪意ある情報(マルインフォメーション)といいます。例で比べると、次のとおりです。
- 誤情報(ミスインフォメーション)
- まちがった情報だが、だますつもりはない。勘違いで、まちがった店の休みの日を広める
- 偽情報(ディスインフォメーション)
- だますつもりで、うそだと分かって作った情報。恨みのある店について、作り話の悪い口コミを書く
- 悪意ある情報(マルインフォメーション)
- 本当の情報を、人を傷つける目的で使う。嫌がらせのために、本当の自宅の住所をネットに書込む
4AI倫理とAIガバナンス
AIを正しく使うための考え方(AI倫理)と、AIの使い方を組織で管理すること(AIガバナンス)、そのための技術としくみ(説明可能なAI・ヒューマンインザループ・AIサービスのオプトアウトポリシー)を学びます。
AI倫理とAIガバナンス
AIを作ったり使ったりするときに、人を差別しない、人の権利を守る、といった、守るべき考え方をAI倫理といいます。会社などが、AI倫理に沿ってAIを使えるように、決まりや体制を作って管理することをAIガバナンスといいます。第15章「AIの活用」で学んだ人間中心のAI社会原則やAI事業者ガイドラインも、AIガバナンスのよりどころになります。
説明可能なAIとヒューマンインザループ
AIが出した答えについて、なぜその答えになったのか、理由や根拠を、人が分かるように示せるAIを説明可能なAI(XAI)といいます。たとえば、お金を貸すかどうかをAIが判断したとき、どの点を重く見たかを示せれば、判断が公平かどうかを人が確かめられます。
AIの処理の途中に、人が確かめたり判断したりする工程を入れておくしくみをヒューマンインザループ(HITL)といいます。たとえば、AIが採用の書類を選んだ後に、人が中身を確かめてから決めることです。第15章「AIの活用」の、AIエージェントに人が承認する所を置く考え方(人間の関与)と同じです。
AIサービスのオプトアウトポリシー
AIのサービスの中には、利用者が入れたデータを、AIの学習に使うものがあります。利用者が、自分の入れたデータを学習に使わせないように断れるしくみや、その決まりをAIサービスのオプトアウトポリシーといいます。会社の秘密の情報を入れる前に、オプトアウトできるかを確かめます。
5AIのリスクと脅威
AIを使うときのリスクの種類(セキュリティ・プライバシーへの懸念、信頼性の課題、倫理・法的リスク、フロンティアAIによるリスクと脅威)と、生成AIの出力の問題(ハルシネーション・差別的表現・古い情報・根拠の分からない情報・答えが毎回変わること・ディープフェイク)を学びます。
AIのリスクの種類
AIを使うときのリスクは、何が原因かで、次のように分けられます。
AIに入れた秘密の情報や個人情報が漏れる、AIが攻撃に使われる、といったおそれを、セキュリティ・プライバシーへの懸念といいます。AIの答えがまちがっていたり、同じ問いでも毎回変わったりして、それを信じると困るおそれを、信頼性の課題といいます。AIの答えが人を差別したり、他人の権利(著作権など)を侵したり、法律に反したりするおそれを、倫理・法的リスクといいます。
第6章「世の中と客の変化、そしてDX」で学んだフロンティアAI(最先端のとても能力の高いAI)が、悪用されたり、人が制御できなくなったりするおそれを、フロンティアAIによるリスクと脅威といいます。能力が高い分、そうなったときの被害も大きいと考えられています。
リスクの種類は、害の大きさではなく、何が原因かで見分けます。たとえば、どちらも人の体を傷つけるおそれがあっても、AIの答えのまちがいが原因なら信頼性の課題、最先端のAIの悪用が原因ならフロンティアAIによるリスクと脅威です。
生成AIの出力の問題
生成AIの出力には、次のような問題が起きることがあります。
- ハルシネーション
- 事実でない内容を、もっともらしく出す(第15章「AIの活用」)。元の資料で確かめて外す。
- 悪意ある情報
- 人を傷つけるのに使われる内容を出す(3節「正しい情報とうその情報」)。
- 差別的表現
- 特定の人や集団を差別する表現を出す。
- 古い出力情報
- 学んだ時より後のことを知らないので、古い情報を今のことのように出す。
- 根拠・出典不明の出力情報
- 答えのもとになった資料や出どころが分からない。
- 出力情報の再現性・一貫性の欠如
- 同じ頼み方をしても、答えが毎回変わる。事実を答えさせるときは確かめが要るが、案を出してもらうときは、違う案から人が選べる。
- ディープフェイク
- AIで作った、本物の人そっくりのうその映像や声で、本物に見せかけて人をだますもの(第23章「脅威と攻撃」)。AIで作ったと示して使う絵は当たらない。
IPA、ITパスポート試験 シラバス(案)Ver.0.1(大分類7 中分類27 情報倫理・AI倫理)。