BERT や GPT の登場により、テキストを扱うモデルは大きく発展しましたが、否定というごくありふれた操作を扱うのが依然難しいです。 本稿では、その理由と、部分的な解決策を紹介します。 目次 目次 否定文を理解できないAIたち 否定文を理解できずに困ること なぜ否定文をうまく扱えないのか なぜたまに成功するのか 対処法 ファインチューニング プロンプトの工夫 否定文を意識した訓練 文書数を増やす クエリとキーを拡張する おわりに 否定文を理解できないAIたち BERT (tohoku-nlp/bert-base-japanese-v3) で A =「私はお寿司が好きです。」 B =「私の好きな食べ物はお寿司です。」 のテキスト埋め込みのコサイン類似度を求めてみましょう。A と B は同じようなことを言っており、予想されるようにコサイン類似度は 0.9695 と高いです。 では、 A =「
長野県大町市に住む折り紙作家 布施知子さん。 これまでに制作した作品は国内だけでなく、世界中から評価され注目を集めています。 今、制作した折り紙の技術が教育や産業などさまざまな分野の可能性を広げています。 彼女の折り紙の世界を取材しました。 「無限折り」「螺旋」「コイル折り」 世界的に評価を受ける作品たち 流れゆく川を表現した、この作品。 実はこれ、20メートルの1枚の紙から出来ています。 無数の折り目を、複雑に重ねる「無限折り」という技法で作られました。 制作したのは大町市に住む折り紙作家の布施知子さん。 37年前に、自然に囲まれた山あいの古民家に移住し、個性あふれる作品を世に送り出してきました。 何重にも細かく規則的に折り続けることで生み出す「螺旋」。 筒状にした紙を、つぶしながら折り込んだ「コイル折り」 その作品はヨーロッパ各地で個展が開かれるなど、海外からも高い評価を受けています。
リー群。ゆっくりと反芻してみる。間違いない。 まさか場末の街コンで、この単語を耳にする日がまた来るとは。 変換や対称性を体系的に扱うための数学的なフレームワーク。そして私の専攻分野だったもの。 「ヴォーガンの分類理論では、単純リー群の既約表現が極大コンパクト群で分解されると思いますが、分岐則の立場から見ると、極大トーラスに既約表現を制限したときの分規則の端が分類の不変量として用いられるじゃないですか」 男がギョッとしてこちらを振り向く。 「ブリリンスキー－柏原の分類理論との関連性がよく分からなくて……りーくんさんならご教示いただけるかと思い」 男の目が泳ぎ出す。小馬鹿にしきった笑みはいつの間にか消えている。一体どこからどう説明を始めればいいのか分からない顔。 物心ついた頃から、こんな顔を数えきれないほど見てきた。女は大学に行く必要はないと言い切った父親、数学コンクールに女が出るなんてと吐き
このコーナーでは、2014年から先端テクノロジーの研究を論文単位で記事にしているWebメディア「Seamless」（シームレス）を主宰する山下裕毅氏が執筆。新規性の高い科学論文を山下氏がピックアップし、解説する。 Twitter: ＠shiropen2 ペンシルベニア大学などに所属する研究者らが発表した論文「Information content of note transitions in the music of J. S. Bach」は、音楽作品を情報ネットワークへと変換し、作品が内包する情報量と伝達効率を調査した研究報告である。この研究では、バッハの楽曲を情報ネットワークとしてモデル化し、楽曲が持つ情報量とその情報をいかに効率よく伝達するかを定量的に評価する。 手法の第一歩として、楽曲の各音符をネットワーク上のノードとして捉え、音符間の遷移をエッジで結び付けている。このエッジは指向
それはそうと、軽量な形式手法たる型システム含む形式手法は記号の世界の中での正気はちゃんと証明してくれるが、人間様が頭を捻って作られた、自然言語で書かれた仕様とやらは一体何の正気を保証してくれるんだろう
Innovative Tech： このコーナーでは、テクノロジーの最新研究を紹介するWebメディア「Seamless」を主宰する山下裕毅氏が執筆。新規性の高い科学論文を山下氏がピックアップし、解説する。Twitter: ＠shiropen2 英国の数学者らと、カナダのウォータールー大学と米アーカンソー大学に所属する研究者らが発表した論文「An aperiodic monotile」（プレプリント）は、繰り返しパターンを作らず、2次元の表面を無限に敷き詰めることができる単一のタイル形状を発見した研究報告である。 このような図形を非周期的なタイルと呼び、2次元の平面にタイルを隙間なく敷き詰めるが決して周期的ではない形状を指す。 非周期的なタイルの最初の集合は、1966年に発見された2万種類以上のタイルの組み合わせだった。その後、タイルの種類を減らす方向に研究が進んだ結果、最も有名な非周期的なタ
サイエンスクリップ 生き物の形、遺伝子によらず幾何学的に決まる仕組みを発見 金沢大など 2022.05.09 草下健夫 ／ サイエンスポータル編集部 昆虫の目の多くは六角形の小さなレンズ「個眼」がびっしり集まった複眼だが、どうして六角形になるのだろう。そういえばハチの巣も、六角形の穴が集まっている。こうした自然界が織りなす図形の不思議に斬り込み、2つの単純な力で幾何学的に決まる仕組みがあることが、ハエの目を使った実験で分かった。金沢大学などの研究グループが明らかにした。遺伝子が関わっていない面白さがあるという。 六角形に四角形…どうして 生活を見渡すと、お風呂のタイル、ブロック塀、ボードゲームの升目などなど、同じ形が敷き詰められたパターンはわりと四角形が目につく。これに対し生物界では、冒頭に挙げたように六角形が多いという。この理由は、六辺の長さの合計が短くしかも構造が強くなるため、低コスト
専門家が執筆した数理最適化の書籍を紹介しています． 適当に書籍を並べただけですので内容については各自で確認をお願いします． 数理最適化全般 数理最適化の概観を知りたい人向け 穴井宏和，数理最適化の実践ガイド，講談社，2013． 数理最適化を現実問題の解決に活用するプロセスを知りたい人向け 岩永二郎，石原響太，西村直樹，田中一樹，Pythonではじめる数理最適化（第2版） ―ケーススタディでモデリングのスキルを身につけよう―，オーム社，2024． 三好大悟，Excelで手を動かしながら学ぶ数理最適化：ベストな意思決定を導く技術，インプレス，2023． 株式会社ビープラウド，PyQチーム，斎藤努，Pythonで学ぶ数理最適化による問題解決入門，翔泳社，2024． 数理最適化を初めて学ぶ人が手に取る入門書 福島雅夫，新版 数理計画入門，朝倉書店，2011． 久野誉人，繁野麻衣子，後藤順哉，数理最
カリフラワーやロマネスコのつぼみは数学的に「フラクタル」と呼ばれる性質を持つ形状であることがよく知られています。フランス国立科学研究センター(CNRS)の研究チームが、カリフラワーのフラクタル構造が発生する遺伝子のメカニズムを解明したという論文を発表しました。 Cauliflower fractal forms arise from perturbations of floral gene networks | Science https://science.sciencemag.org/content/373/6551/192 Why do cauliflowers look so odd? We've cracked the maths behind their 'fractal' shape https://theconversation.com/why-do-cauliflower
はじめに 最近，「一般化ぷよぷよのより強い計算困難性」なる研究を発表しました（東北大学の江藤宏先生，九州大学の木谷裕紀先生との共同研究．国内研究会であるゲームプログラミングワークショップで江藤先生による口頭発表．2021年12月30日現在，pdfはここから取れます）． これは有名なビデオゲーム「ぷよぷよ」を一人用のパズルと見立てたとき，かつそれを一般化した場合，どの程度難しいものであるのかを（最適化）アルゴリズム論的に分析したものです．今回「最適化技術の応用・実践」に関する記事を集めよう，ということになりましたので，ちょうどよい題材ということで，この研究をより一般向けに解説してみようと思います．一般向けですので証明自体には踏み込まず，既存の定理と得られた定理の意義をおよそわかっていただくことをこの記事の目標とします．ただし「ぷよぷよ」について関してはおよそルール等がわかっている方を対象とし
1. はじめに こんにちは、はじめまして。東京大学 1 年生の米田優峻（E869120）と申します。私は競技プログラミングが趣味で、AtCoder や国際情報オリンピックなどの大会に出場しています1。2021 年 11 月時点で、AtCoder では赤色（レッドコーダー）です。また、2020 年以降、アルゴリズムを学べる以下のようなコンテンツや資料を作成してきました。 レッドコーダーが教える、競プロ上達ガイドライン 競プロ典型 90 問 50 分で学ぶアルゴリズム さて、このたびは技術評論社から、書籍を出版させていただくことになりました2。アルゴリズムと数学が同時に学べる新しい入門書です。 「アルゴリズム×数学」が基礎からしっかり身につく本 - amazon 発売日は今年のクリスマス、2021/12/25 です。電子書籍版も同時期に出る予定です。本記事では、この本の内容と想定読者について、
ごちすう(ご注文は数オリですか？) @gochisuu 偶然にも日本中が五輪の幕開けに沸いている中ですが、先日リモートで開かれた第62回国際数学オリンピック(ロシア大会)において、今年も日本選手全員のメダル獲得(金1銀2銅3)が決定しました！特に金メダルは2年ぶりの奪還です！みんな本当におめでとう！そしてお疲れ様！2年後はここ日本での開催です！ リンク Wikipedia 国際数学オリンピック 国際数学オリンピック（こくさいすうがくオリンピック、英: International Mathematical Olympiad, IMO）は、毎年行われる高校生を対象とした数学の問題を解く能力を競う国際大会である。 テストは2日間あり、出場者は各1日4時間30分で、3問ずつ挑戦する。各問題は7点満点で採点され、満点は42点である。採点の結果、上位1/12位には金メダル、次の2/12位には銀メダル、
よくアニソンとかの歌詞で「解けない方程式」みたいなフレーズが出てくるが、代数方程式だって5次方程式（たった5次！）以上になったら一般には解けないし、微分方程式に至っては「ミレニアム懸賞問題」として100万ドルの懸賞金が懸かってたりする難しさなわけで、たいていの方程式は解けなくて当たり前なんだよ！って、聞くたびにツッコミたくなる。 つまり、「解ける方程式」なんてほとんど無いのだから、「解けない方程式」に悩むなんて、空が飛べる翼がないことに悩むくらい実現不可能な空想であり、そもそも悩み方として間違っている。 というかまずは、お前の歌詞で求める「解」は近似解ではダメなのか、どうしてダメなのか、歌詞はせいぜい10分も無いけど、小一時間膝を付き合わせて問い詰めたい。ゼミを開いてお前の意図を詳らかにしたい。 ガロア群が可解にならないからって諦める前に、最適化のための近似アルゴリズムを試せよ。ニュートン
未解明だった数学の超難問「ABC予想」を証明したとする望月新一・京都大数理解析研究所教授（51）の論文が、同所が編集する数学専門誌に掲載されることが決まった。3日、京大が発表した。ABC予想は、素因数分解と足し算・かけ算との関係性を示す命題のこと。4編計646ページからなる論文は、斬新さと難解さから査読（論文の内容チェック）に8年かかったが、その正しさが認められることになった。有名な数学の難問「フェルマーの最終定理」（1995年解決）や「ポアンカレ予想」（2006年解決）の証明などと並ぶ快挙となる。【阿部周一、松本光樹】 望月教授は2012年8月、構想から10年以上かけた「宇宙際タイヒミューラー（IUT）理論」の論文4編を、インターネット上で公開した。これを用いればABC予想など複数の難問が証明できると主張し、大きな注目を集めたが、既存の数学が存立する枠組み（宇宙）を複数考えるという構想は
みんな冷静に計算してほしいけど、東京都の新コロナ感染者数は現在１７１人。東京から無作為に２００人をピックアップしたときに、その中に超有名人の志村けん氏が入ってる確率ってどのくらいだと思う？ 現在の感染拡大ペースは我々の想像をはるかに超えてるよ。桁違いの感染者数になってるよ。— 森岡正博 (@Sukuitohananika) 2020年3月25日 このツイートと、 森岡正博 on Twitter: "みんな冷静に計算してほしいけど、東京都の新コロナ感染者数は現在１７１人。東京から無作為に２００人をピックアップしたときに、その中に超有名人の志村けん氏が入ってる確率ってどのくらいだと思う？ 現在の感染拡大ペースは我々の想像をはるかに超えてるよ。桁違いの感染者数になってるよ。" ブコメがひどい。水曜日のダウンタウンとやらによれば志村けんは日本の知名度ランキング15位。そんな人が感染してるなら、実際
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
