この章で学ぶこと
1機械学習
データから決まりを見つける機械学習の3つの学び方(教師あり学習・教師なし学習・強化学習)と、学んだAIの確かめ方、そのつまずき(過学習)、結論の導き方(演繹推論・帰納推論)、AIの分け方(弱いAI・強いAI)を学びます。
機械学習の3つの学び方
第15章「AIの活用」で学んだように、たくさんのデータからコンピュータが自分で決まりを見つける方法を機械学習といいます。人が決まりを1つずつ書き込むのではなく、データから決まりを見つけるのが特徴です。機械学習の学び方は、次の3つです。
- 教師あり学習
- 答え(正解)の付いたデータから学び、新しいデータの答えを当てる。過去にやめた客とやめなかった客の記録から、この先やめそうな客を当てる
- 教師なし学習
- 正解の付いていないデータから、似たもの同士を集めてまとまりを作る。まとまりの名前は、分けた後に人が付ける。買った物が似ている客どうしを、まとまりに分ける
- 強化学習
- 試して、結果の良さに応じた点数(報酬)を受け取ることをくり返し、点数がいちばん多くなるやり方を身につける。対局をくり返して、勝てる手を身につける囲碁のAI
学習用のデータとテスト用のデータ、過学習
機械学習で作ったAI(モデル)が使えるかは、学ぶのに使っていない新しいデータで確かめます。そこで、集めたデータを、学ぶための学習用のデータと、確かめるためのテスト用のデータに分けておきます。
学習用のデータでは答えがよく当たるのに、新しいデータでは当たらないことがあります。学習用のデータの細かいくせまで覚えすぎて、ほかのデータに当てはまらなくなった状態を過学習といいます。たとえば、ある工場のラインで撮った写真で学んだAIが、照明の違う別のラインの写真では、正しく見分けられない、といったことです。学習用のデータで当たるだけでは、使えるとは言えません。
図の灰色の点が学習用のデータ、白い丸が新しいデータ(テスト用のデータ)です。左の線は、学習用の点を1つ残らず通ろうとして、大きく上下にうねっています。学習用のデータではぴたりと当たりますが、点と点の間に来た白い丸からは大きく外れます。右のまっすぐな線は、学習用の点からも新しい点からも少しずつずれますが、大まかな流れをつかんでいるので、新しいデータでも大きくは外れません。学習用とは別のテスト用のデータで確かめるのは、左のような覚えすぎを見つけるためです。
演繹推論と帰納推論
筋道を立てて結論を導く考え方(推論)には、2つあります。「すべての〜は…だ」という決まりを、1つ1つのものに当てはめて結論を出すことを演繹推論といいます。いくつもの例から、「〜は…だ」という決まりを見つけることを帰納推論といいます。帰納推論で見つけた決まりは、外れることもあります。機械学習は、たくさんの例(データ)から決まりを見つけるので、帰納推論の考え方に近いものです。
弱いAIと強いAI
画像を見分ける、文章を訳すといった、特定の課題に限って答えを出すAIを弱いAIといいます。今使われているAIは、どれも弱いAIです。人と同じように、どんな課題でも自分で考えて解けるAIを強いAIといいますが、まだ実現していません。弱い・強いは、答えの精度の高い・低いとは関係ありません。
2ディープラーニング
人の脳の神経のつながりをまねたしくみ(ニューラルネットワーク)と、それを何層も重ねたディープラーニング、その使い道(自然言語処理・音声処理・画像認識のモデル)を学びます。
ニューラルネットワーク
人の脳では、たくさんの神経の細胞がつながり合って、情報を伝えています。このしくみをまねて、たくさんの計算の単位を層に分けて並べ、層と層をつないで計算するしくみをニューラルネットワークといいます。データを受け取る入力層、計算を重ねる中間層、答えを出す出力層があります。
ニューラルネットワークは、出した答えと正解との差(誤差)が小さくなるように、出力層から入力層へさかのぼって、つながりの強さを少しずつ直しながら学びます。このさかのぼって直す方法をバックプロパゲーション(誤差逆伝播法)といいます。
ディープラーニング
ニューラルネットワークの中間層を、何層も深く重ねて使う機械学習のしくみをディープラーニング(深層学習)といいます。ディープラーニングは、1節の3つの学び方と並ぶ4つめの学び方ではなく、教師あり学習などのどの学び方とも組合せて使うしくみです。層を深く重ねることで、データのどこに注目すればよいか(特徴)を、人が教えなくても、データから自分で見つけられます。たとえば、猫の写真をたくさん学ぶと、耳の形やひげなどの特徴を自分で見つけて、猫を見分けられるようになります。
ディープラーニングの使い道
ディープラーニングを使ったモデルは、扱うデータの種類によって、次のように分けられます。
- 自然言語処理モデル
- 人が書いたり話したりする言葉(文章)を扱う。アンケートの自由記述の文を、苦情と要望に分ける、文章を訳す
- 音声処理モデル
- 声や音を扱う。電話の声を文字に起こす、話しかけた言葉を聞き取る
- 画像認識モデル
- 写真や映像に写っているものを扱う。製品の写真から傷を見つける、顔を見分ける
声なら音声処理、文章なら自然言語処理、写真や映像に写るものなら画像認識です。データがどう届いたか(メールで届いたか、紙で届いたか)ではなく、扱うデータの種類で選びます。
3生成AIの技術
見分けるAIと作り出すAIの違い(識別AI・生成AI)と、文章を作るAIを支える技術(大規模言語モデル・基盤モデル・トークン・コンテキスト内学習・RAG)を学びます。
識別AIと生成AI
データから、ものを見分けたり、先のことを予測したりするAIを識別AI、文章・画像・音声などを新しく作り出すAIを生成AIといいます(第15章「AIの活用」)。たとえば、来店の記録と天気から明日の客の数を予測するのは識別AI、新しい商品の説明の文を作るのは生成AIです。もとにするデータが写真や声でも、出すものが新しく作ったものなら生成AIです。
大規模言語モデルと基盤モデル
とても大量の文章を学んで、ある言葉の次にどんな言葉が来やすいかを身につけ、人が書いたような文章を作れるようにしたモデルを大規模言語モデル(LLM)といいます。文章を作る生成AIの中心となる技術です。
LLMのように、広い分野の大量のデータで先に学ばせておき、その後に追加の学習などをして、いろいろな用途に使い回すモデルを基盤モデルといいます。用途ごとに一から学ばせなくて済みます。
トークン
LLMは、文章を、単語や単語の一部くらいの小さな単位に区切って扱います。この単位をトークンといいます。LLMが一度に読める文章の量や、サービスの料金は、トークンの数で決まることが多いです。
コンテキスト内学習とRAG
LLMを学び直させなくても、頼み(プロンプト)の中に、いくつかの例や指示を書いておくと、LLMはそれに合わせた答えを出します。たとえば、「問合せの文を、次の例のように『料金』『配送』『その他』に分けてください」と、例を3つ付けて頼むと、新しい文も同じように分けます。このように、プロンプトの中で示した例や情報から、その場でやり方をつかんで答えることをコンテキスト内学習(In-Context Learning)といいます。
第15章「AIの活用」で学んだRAG(検索拡張生成)は、このコンテキスト内学習の力を使うしくみです。頼みに関係する社内の文書や新しい情報を検索して探し出し、その内容をプロンプトに添えて渡すことで、LLMが学んでいない情報にもとづいた答えを出させます。コンテキスト内学習はLLMの力の名前、RAGは資料を探して添えるところまで含めた方法の名前です。
IPA、ITパスポート試験 シラバス(案)Ver.0.1(大分類4 中分類18 AI技術)。