GPT4が登場してChatGPTが盛り上がってますね。 本記事は、GPT（を支えるTransformerという仕組み）をChatGPTユーザにとって分かりやすく説明し、その能力と限界についての見通しをよくしよう、という趣旨になります。 少し長くなりそうなので、全部で記事を3回に分けようと思います。 （１）大まかな背景と概要：本記事 （２）GPTの能力と可能性：実際の使用例とTransformerの仕組みを踏まえて説明 （３）GPTの限界と未来展望：Transformerの仕組みが持つ限界と研究の進展を予想 GPT3と4の違い： トークン長とは何か？ まずここから話を始めます。GPT-3は、パラメータ数が750億個（850GBの容量を食う）でトークン長が4097(GPT-3.5)でした。GPT-4は、パラメータ数は非公開でトークン長は32768ですので、ちょうど8倍になります。 さて、トーク
【この文章の目的と想定される読者の対象】 こんにちは。私は医学分野の博士課程の院生です。毎日小保方博士ネタがホッテントリにちらちら見えます。普段はあまり科学分野あるいは再生医療に携わってるわけではないけど気になって読んでる方も結構いる様子、とブコメを読んで思いました。せっかく科学に興味を持って頂く良い機会ですから、そういう方向けに、たぶんこういう疑問を抱いているのじゃないかな・・・というのを推測して、FAQを書いてみました。院生が勉強をも兼ねて書いていますので、詳しい方も容赦なく突っ込んでくださるとありがたいです。 想定されるFAQはいくつもあるのですが、とりあえず今一番ホットなポイントである「小保方論文の真贋について」のFAQを書いてみました。 【この文章の限界】 勿論タイトルの「サル」は釣りですが、それでもなるべく表現を簡単にしてあります。そのため用語が不正確になっているところがありま
1
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
処理を実行中です
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
