・AIエージェントとはなにか？ ・AIエージェントの現在地はどこか？ ・AIエージェントに関連した注目技術トレンド ・AIエージェントの課題と今後
本記事は、DeepSeek-R1の論文とDeepSeekMathの論文を読んだ私の理解をもとに記載しています。 本論文で使われている技術に関しては、ある程度の知識を持っているので、大きくは外していないとは思いますが、私の主観も入っている部分もありますので、ご了承ください。 また、DeepSeek-R1の論文が公開される前に、小型モデルに対して同様の実験（強化学習）をしていたグループがあるようです。 そちらのレポートは下記になります。 意図せず、DeepSeek-R1-Zeroの再現実験のようなレポートになっていますが、レポートの著者はDeepSeek-R1論文の公開前から実験していると主張しています。 こちらも非常に興味深かったため紹介です。 本論文の興味深いところ 本論文は、大きく分けて3つの構成でできています 強化学習による思考能力の強化 LLM（DeepSeek-V3-Base）に対
ゆめみ/虎の穴ラボさんの「勉強法の勉強会」というのが好きで、そちらをベースに社内の強い人たちへのインタビュー（10名程度）をミックスして、みんながどうやって調査とか勉強とかしているのか、まとめてみました。 インタビュの結果、あまり共通項みたいなものがなく、結局勉強に関しても銀の弾丸はなさそうな雰囲気でした。ので、どちらかというといろんな人のいろんな方法を並べる、みたいになっています。いろいろ詰め込もうとしすぎたのでゴチャった感ありますが、誰かの参考になれば幸いです。 前提など
こんにちは。コグラフ株式会社データアナリティクス事業部の塩見です。 私は「カイ二乗検定」に対して、当初は納得できない部分がありました。やりたいことに対して、必要以上に複雑な手法のように感じたからです。同じような疑問を持つ方も多いのではないでしょうか。この記事では、私が「カイ二乗検定」を理解し納得するまでの過程をお伝えします。 結論から言いますと、一度頻度論を離れてベイズ統計の視点で考えてみたところ、実は非常に単純なことを行っていると気づきました。その後、カイ二乗検定を再び考え直すと、すんなり理解できたというお話です。 カイ二乗検定の手順まず、サイコロを何度も投げ、出た目の回数（実測値）を記録します。偏りのないサイコロでは、全ての目が均等に出るはずです。この理論的な回数を理論値と呼びます。 次に、実測値と理論値の差を計算し、その差を二乗してから理論値で割ります。この計算結果を「ズレ」と呼びま
hep-th 系の学生さんと話をしていると、勉強の仕方はわかっているのだけれど、 そこから論文を書くことになかなか移行できないケースが散見されます。 ではどうやったらいいのか、という話を何度かすることがあり、毎度同じような助言をしているので、 この際まとめておこうかと思った次第です。 理論物理で且つ hep-th にしか適用できない話も多いかと思いますので、悪しからず。 また、最近子供と話すことが多いので、口調が幼い子供相手のものに引きずられている気がしますが、すいません。 (初稿:2024/9/20) なぜ論文を書かないといけないの? 勉強しているだけではダメなの? 他のところでも書きましたが、教科書や、著名な大論文の勉強をやっていると素晴らしいことを学んで、理解が深まって、とても楽しいです。 一方で、論文を書くためにがんばって新しいことがすこしわかったとしても、自分でなしとげた、という
Deleted articles cannot be recovered. Draft of this article would be also deleted. Are you sure you want to delete this article? AIブーム、ますます加熱してますね。ChatGPTなどのAIサービスを使っている人も多いと思いますが、エンジニアとしては使うだけでなく、中身とか原理も知りたいですよね？そういうエンジニアのために、AIが学習するしくみを簡単に説明します。理論だけでなくコードを添えて、より具体的に想像できるように書きたいと思います。 なおここで「AI」はニューラルネットワーク（以下NN）を使った機能を指すこととします。想定する読者は、プログラミングの基礎知識を持っているけれども機械学習ライブラリは使ったことがない人です。 AIサービスの大雑把な中身 チャッ
先日、博士（情報学）になりました。学部と大学院をあわせた 9 年間で読んだ情報科学関連の教科書・専門書を思い出を振り返りつつここにまとめます。私は授業はあまり聞かずに独学するタイプだったので、ここに挙げた書籍を通読すれば、大学に通わなくてもおおよそ情報学博士ほどの知識は身につくものと思われます。ただし、特に大学院で重要となる論文を読み書きすることについては本稿には含めておりません。それらについては論文読みの日課についてや論文の書き方などを参考にしてください。 joisino.hatenablog.com 凡例：（半端）とは、数章だけ読んだ場合か、最後まで読んだものの理解が浅く、今となっては薄ぼんやりとしか覚えていないことを指します。☆は特におすすめなことを表します。 学部一年 寺田 文行『線形代数 増訂版』 黒田 成俊『微分積分』 河野 敬雄『確率概論』 東京大学教養学部統計学教室『統計学
「インプットの怪物」あんちぽが語るエンジニア勉強論。終わりなき論争に終止符は打たれるのか 2024年2月29日 作家／GMOペパボ株式会社 CTO 栗林健太郎（あんちぽ） GMOペパボ株式会社取締役CTO、日本CTO協会理事。情報処理安全確保支援士（登録番号：013258）。東京都立大学法学部政治学科卒業後、奄美市役所勤務を経て、2008年より株式会社はてなでソフトウェアエンジニアとして勤務。2012年よりGMOペパボ株式会社に勤務。現在、同社取締役CTO。技術経営および新技術の研究開発・事業創出に取り組む。2020年より北陸先端科学技術大学院大学に在学する社会人学生としても活動。 X SpeakerDeck Kentaro Kuribayashi’s Website Pepabo Tech Portal での執筆記事 「エンジニアは一生勉強しなければならない職業である」と言われます。「勉
これは何？ NGK2024Sの発表資料です。 自己紹介 名前: 中西克典 X(Twitter): @n_kats_ 機械学習名古屋研究会主催 NGK発表は2回目 機械学習名古屋研究会 論文読み会 毎月第3木曜（19:00～）オンラインで 次回（2月15日第71回）・・・https://machine-learning.connpass.com/event/308186/ 本編 イントロ（研究会の表の目的） 論文を読む習慣付け 知識のアップデート 発展的・実践的な知見の獲得 イントロ（研究会の裏の目的） この世の真理と呼べるものを全て知りたい。 という話を2年前のNGKでした。 おさらい（2年前の話） 読み上げソフトを使うと機械学習の論文が30分で再生できる。 ある分野の概要を把握する目安の論文50本には約3日あればよい。 2年前の課題 読み上げられてる文章を目で追いかけないといけない。つら
「GRIT やり抜く力」を読んだ2024年、最初に読み切った一冊がこちらの「やり抜く力」でした。以前から存在は知っていたし、有名な書籍であるがゆえにどんな内容かはなんとなく知っていましたが、そういえばちゃんと読んだことないなと思い立ち手にとりました。 情熱と粘り強さを持って物事にあたり、最後までやり切る力。 やり切るためには高い目的意識が必要であり、それと同じくらいにそれを楽しむ、没頭する姿勢が重要であること。その目的意識には利他の精神が宿っていることが前提となること。 粘り強く行動し続けるためにはしなやかマインドセットが土台にあり、適切に成長していくためには外部からのフィードバックが必要となる。 ただ精神論で、気合と根性でやり抜けと喝破するのではなく、やり抜く力を構成する要素を分解している点が良いな、と読んでいて感じました。具体性があると自分の行動に落とし込みやすくなります。 GRITを
第1回は、さまざまなタスクをこなす万能型ジェネレーティブAIツール「ChatGPT」の性能の鍵を握る「トークン長（GPTが文脈を意識できる過去の単語数）」やGPTの歴史的経緯について解説しました。第2回はGPTを支える自然言語処理 の分野で使用される深層学習モデル「Transformer」とその根幹となる「Attention機構（そのタスクにおいてどの単語の重要度が高く、注目すべきか決める仕組み）」についてです。TransformerとAttention機構の仕組みを定性的に把握し、それを踏まえてGPTの能力と可能性について考察したいと思います。テクノロジー領域に明るくない人でもわかる記事を目指します。
皆さんはGitHub Copilotを使っていますか？VSCodeやIDEに拡張を入れると、生成AIとペアプロのようなことができるという、アレです。 最近はこれがないと仕事ができない。なかった時代を思い出せないという人が増えています。プログラミングの生産性に明確に差が生まれます。僕もその口です。 ただ、GitHub Copilotを使いこなせていないという話も度々聞きます。Copilotが提案してくれるコードが微妙で役に立たないというような感じです。 その差はどこにあるのか？を知りたくて6/24に試しにCopilotを使った動画を撮ってみました。実践的なCopilot実演動画というのはすごく珍しいらしく、GitHub dockyardというコミュニティの竣工イベントに登壇してみないか？というお声がけをいただいたので、8/5にGitHub Copilotを使いこなせるとどうなるのかというライ
こんにちは。 ECコンサル会社を経営している、あびるです。 今回はChatGPTでマインドマップを作る方法をご紹介します。 この方法を使えば、長くて難しくて読みたくない文章も、情報が小分けされた状態で視覚的に分かりやすくなります。 プロンプト例太宰治の走れメロスのストーリーについてマインドマップにまとめて、PlantUMLで出力してください。出力結果 @startmindmap !define AWESOME mindmapBackgroundColor White * 走れメロス ** 主要登場人物 *** メロス **** 無実の罪で逮捕 **** 王に誓いを立てる **** 結婚式へ向かう **** 友人セリヌンティウスに会う **** 王に戻る *** セリヌンティウス **** メロスに協力 **** 王のもとで身代わりに *** 王 **** 独裁者 **** メロスを逮捕 *
(数式を使わない) Transformer の直感的な説明 RNN の欠点 Transformer はこれをどう解決したか Transformer の動作原理 複数の要素間の関係を考慮する (Self-Attention、自己注意) 要素の順序を考慮する (Positional Encoding、位置エンコーディング) まとめ 概要: ChatGPT などで使われている Transformer モデルは、 ニューラルネットワークの世界にいくつかの革新的なアイデアをもたらした。 本記事では、プログラマに理解しやすい形でそれらのアイデアを解説する。 実際に使われている数学の詳細には触れない。 (技術的解説については元論文 Attention is All You Need か、 その注釈版である The Annotated Transformer を参照のこと。 日本語では この解説 がわかり
人工知能を学ぶためのロードマップ このページでは、人工知能や深層学習を学んだことのない方を対象に、 それらを学ぶためのロードマップを紹介しています。 本ロードマップでは達成目標として、 「研究者」「データサイエンティスト」「エンジニア」「ビジネス」の 4つの職業ごとに4つのレベルを設けています。 まずはレベル0として、人工知能についての基礎的な知識を学びましょう。 技術に触れる（学習想定時間：1時間） まずは最新のAI技術に触れて，AIによってどのようなことができるのかを確認してみましょう． メジャーなサービスを含めいくつか紹介します． ・ChatGPT ChatGPT すでに利用したことがある方が多いかと思いますが、OpenAIが開発・運営する大規模言語モデル（LLM）チャットボットです。LLMでは他にGoogleのGemini、AnthropicのClaude、Mistral AIなど
Developers Summit (デブサミ) 2023で、「テストを学んでみたい開発者のためのソフトウェアテスト読書マップ」という発表*1をしてきました。 event.shoeisha.jp 資料はこちらです。 speakerdeck.com これまで、ソフトウェアテストとかQAの世界でばかり聴講やら発表やらをしておりまして、その外に出る機会があまりありませんでした。 今回、イベント主催者の翔泳社様から発表の打診をいただき、かなり腰が引けていたのですが、「これを機に、もうちょっと外に目を向けよう」という無理やりな動機付けで場を借りることにしました。 といっても結局発表はテストに関することですし、全然外に出ていないのですが・・・まあそれはこれからってことで。 今回は、ソフトウェアQAエンジニアの有志が一気呵成に作り上げた『ソフトウェアテスト読書マップ』を借りた発表であり、みなさんの成果を
基本的なデータ構造であるヒープについて、概要、計算量と実装、そして最もシンプルな応用であるヒープソートを紹介します。MITが講義や資料を公開しているMIT OpenCourseWareのアルゴリズムとデータ構造の講義 が非常にわかりやすかったので、その内容に沿ってまとめました。この記事ではHeaps and Heap Sortの内容を以下の順序で解説します。 ヒープの概要ヒープの表現ヒープの構築ヒープの計算量ヒープの実装ヒープソート1. ヒープの概要ヒープ (heap) は優先度付きキュー (priority queue) の実装の1つです。優先度付きキューは集合 (set) を扱うデータ型で、集合に含まれる要素が何らかの優先度 (priority) 順に取り出されるという特徴を持っています。学会のポスター発表を回るときや、旅行先での観光地巡りでは、優先度に基づいて要素を取り出すことが重要
イノベーション イノベーションを起こすためのスキルを習得し、業務に活かす方法を学びます。
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
