この記事でわかること
- AIが文章をどう作っているかがわかる
- AIの文章がそれらしく見える理由がわかる
- AIの文章を確認するときの見方がわかる
生成AIに質問すると、数秒でまとまった文章が返ってきます。
見出しがあり、段落があり、理由や例も入っている。読むだけなら、きちんと説明されているように見えることがあります。
しかし、よく読むと違和感が残ることもあります。文法は大きく間違っていないのに、前後の説明が足りない。話がつながっているようで、少し飛んでいる。こうした文章は、明らかな誤字より気づきにくいものです。
なぜ、このような文章が出てくるのでしょうか。それは、AIが文章を作る仕組みと関係しています。
AIは、次に続きやすい言葉を選んでいる
AIは、人間のように全体の結論を決めてから、一文ずつ書いているわけではありません。
入力された質問や、これまでの会話をもとに、次に続きやすい言葉を選びます。言葉を一つ出したら、その言葉まで含めて、さらに次に続きやすい言葉を選びます。この繰り返しで文章が作られます。
たとえば、「取引先へのお礼メールを書いて」と頼んだ場合、AIはビジネスメールでよく使われる言葉の並びをもとに文章を作ります。
「いつもお世話になっております」と書く。
その続きとして「本日はお時間をいただきありがとうございました」と書く。
さらに、打ち合わせへのお礼や今後の連絡につながる文を書く。
このように、前に出した言葉に合う言葉を重ねていくことで、メールらしい文章ができます。
この仕組みは、AIがなぜ事実をそれらしく間違えるのか（ハルシネーション）にもつながっています。くわしくは「AIのハルシネーションとは」で説明しています。
AIは文章の並べ方を学んでいる
AIがまとまった文章を書けるのは、大量の文章から、言葉のつながり方や文章の並べ方を学習しているからです。
ビジネスメールでは、あいさつ、用件、お礼、締めの言葉がよく使われます。議事録では、会議の内容、決定事項、次にやることが整理されます。解説記事では、最初に結論を書き、そのあとに理由や例を続けることが多くあります。
AIは、こうした文章によくある順番を使って回答を作ります。そのため、見出しを付けたり、段落を分けたり、理由や例を並べたりできます。
ただし、文章の形が整っていることと、前後の説明がきちんとつながっていることは別です。
最近のAIは「考えてから答える」こともある
ここまでは、次に続きやすい言葉を選んで文章を作る、という基本の仕組みです。最近のAIには、これに加えて、答える前に「考えるための文章」を一度書き出してから回答するものが増えています。
いきなり答えを書き始めるのではなく、頭の中の下書きのように、考える手順をいったん言葉にして、それを踏まえて回答を作る、というイメージです。これにより、込み入った相談や、筋道を立てて考える必要がある作業で、回答が整いやすくなります。
ただし、これも「次に続きやすい言葉を選ぶ」という仕組みの延長です。AIが人間のように意味を理解して考えているわけではなく、考える手順も言葉として組み立てている、と捉えておくとよいでしょう。この「考える量」は、AIの設定で調整できることもあります（くわしくは「AIには「考える量」を選ぶ設定がある」で説明しています）。
なぜ「読めるけれど、引っかかる」文章が生まれるのか
AIの文章で問題になりやすいのは、まったく読めない文章ではありません。
むしろ、読めるけれど、どこか引っかかる文章です。
たとえば、「AI研修が社内に定着しない理由」を説明する文章で、次のように書かれていたとします。
「AI研修では、社員が基本的な使い方を学ぶことができます。そのため、研修後のフォロー体制を整えることが重要です。」
一見すると自然に読めます。
しかし、よく見ると、「基本的な使い方を学べること」と「フォロー体制が重要であること」の間に、説明が足りません。
本来なら、次のような説明が必要です。
「AI研修では、社員が基本的な使い方を学ぶことができます。ただし、研修で学んだ内容を翌週の仕事で試すところまで決めておかないと、実際の業務では使われにくくなります。そのため、研修後に質問できる場所や、試す業務を決める時間を用意することが重要です。」
このように、AIの文章は、文法だけを見ると大きく間違っていなくても、途中の説明が抜けることがあります。だから、読めるのに引っかかる文章になります。
情報の正確さも確認する
AIの文章では、前後のつながりとは別に、情報の正確さも確認が必要です。
日付、数字、制度名、会社名、商品名、引用元などは、文章が読みやすくても間違っている場合があります。実在しない制度をそれらしく説明したり、数字を少し違う形で書いたりすることがあります。
つまり、AIの文章を見るときは、二つの確認が必要です。
一つ目は、前後の説明がつながっているか。
二つ目は、書かれている情報が正しいか。
この二つは別の確認です。文章がつながっていなければ、情報が正しくても読みにくくなります。反対に、文章として読みやすくても、数字や固有名詞が間違っていることがあります。
AIの文章を確認するときに見ること
AIの文章を確認するときは、文章全体をなんとなく読むだけでは不十分です。前の文を受けて次の文が自然に続いているか、理由として書かれた内容が直前の説明を補っているか、例として出された内容で説明が具体的に伝わるかを確認します。そのうえで、数字、日付、制度名、会社名などの事実を確認してください。
AIは、文章のたたき台を作るのが得意です。ただし、そのまま完成品として使うと、読めるけれど引っかかる文章や、事実が違う文章が残ることがあります。
まとめ
AIは、入力された質問やこれまでの会話をもとに、次に続きやすい言葉を選びながら文章を作っています。大量の文章から言葉のつながり方や文章の並べ方を学習しているため、見出しや段落が整った文章を作れます。最近では、答える前に考える手順を書き出すAIも増えていますが、それも言葉を選んで組み立てる仕組みの延長です。
ただし、見た目が整っていても、途中の説明が抜けていたり、話が少しずれていたりすることがあります。日付、数字、制度名、会社名などの情報が正しいとも限りません。
AIの文章を見るときは、前後の説明がつながっているかを確認します。そのうえで、数字や固有名詞などの事実を確認します。見た目の整った文章を、そのまま完成品として扱わない。これが、AIの文章とうまく付き合うこつです。
Q&A
Q1. AIは文章を丸ごと覚えて出しているのですか？
丸ごと覚えた文章をそのまま出しているわけではありません。入力された内容や会話の流れに合わせて、次に続きやすい言葉を選びながら文章を作っています。
Q2. AIの文章は、なぜそれらしく見えるのですか？
見出しを付ける、段落を分ける、理由や例を並べるなど、文章によくある形を作れるからです。ただし、形が整っていても、途中の説明が抜けていることがあります。
Q3. 引っかかりの少ない文章を作ってもらうには、どう頼めばよいですか？
頼むときに、前提や条件を具体的に伝えると、説明の抜けが減りやすくなります。たとえば、誰に向けた文章か、何を一番伝えたいか、入れてほしい事実は何かを書き添えます。それでも途中の説明が飛ぶことはあるため、最後に人が読み直して補う前提は変わりません。