前置き​

私の Local PC で動くほぼ上限のモデル

wayfarer-large-70b-llama-3.3

で試した。

全く同じ入力データで、ChatGPT 4o が要約した結果は過去記事、

Jim Penniston の証言動画 : 文字起こし＋ 和訳 ＋ AIの要約

に記載した。

質問と回答は英語。回答を DeepL で和訳したものが下。回答を終えるのに要した時間は 15秒。

印象​

• さすがに 70B のモデルだけあって、7B のモデルより格段に性能が良い。ChatGPT-4o には敵わないが、ほぼ実用レベルの性能。
• 和訳もできはするが、和訳文には文字化けなどもわずかに混じる。
• 日常的な会話なら、日本語でもほぼ差し支えないレベル。ざっと視た感じで ChatGPT 3.5 レベルに相当。
• 回答の生成が遅い。昔の ChatGPT 3 or 3.5 のレベルの生成速度。