大規模言語モデル(LLM)のセキュリティを研究するスタートアップ・Lakeraのエンジニアであるダニエル・ティンブレル氏が、画像認識も可能なチャットボットAIに対する「ビジュアルプロンプトインジェクション」攻撃について解説しています。 The Beginner's Guide to Visual Prompt Injections: Invisibility Cloaks, Cannibalistic Adverts, and Robot Women | Lakera – Protecting AI teams that disrupt the world. https://www.lakera.ai/blog/visual-prompt-injections プロンプトインジェクションとは、大規模言語モデル(LLM)の脆弱性を突く攻撃手法の一つ。具体的には、巧妙に作られたプロンプトを使っ
上海のAI企業「INF Technology」やオープンソースのAI研究コミュニティ「M-A-P」などに在籍する研究者のチームにより、最終モデルだけでなくトレーニングデータやデータ処理パイプラインなど、モデルを再現するのに必要な情報全てがオープンな大規模言語モデル「OpenCoder」が公開されました。 OpenCoder: Top-Tier Open Code Large Language Models https://opencoder-llm.github.io/ 大規模言語モデルについて「オープンなモデル」と言う場合、どの程度オープンなのかについてはさまざまです。モデルのアーキテクチャが公開されていて誰でも独自のデータで大規模言語モデルをトレーニングできる場合を「オープンソース」、トレーニング済みのモデルが公開されていて誰でも自分のローカルPCで実行できる場合を「オープンウェイト」
イーロン・マスク氏は2023年にAIスタートアップの「xAI」を設立し、11月にはチャットAI「Grok」をリリースしました。しかし、悪意のあるユーザーが広めた偽のイラン攻撃ニュースがGrokによってまとめられ、X(旧Twitter)のトレンドに入ってしまったことが報告されています。 X's AI chatbot Grok made up a fake trending headline about Iran attacking Israel | Mashable https://mashable.com/article/elon-musk-x-twitter-ai-chatbot-grok-fake-news-trending-explore Investors in talks to help Elon Musk's xAI raise $3 billion, WSJ reports
Innovative Tech： このコーナーでは、テクノロジーの最新研究を紹介するWebメディア「Seamless」を主宰する山下裕毅氏が執筆。新規性の高い科学論文を山下氏がピックアップし、解説する。Twitter: ＠shiropen2 米ペンシルベニア州立大学と米ミシシッピ大学に所属する研究者らが発表した論文「Do Language Models Plagiarize？」は、自然言語生成モデルが剽窃（ひょうせつ）している可能性を分析した研究報告である。剽窃されたコンテンツを自動的に識別するためのパイプラインを構築することにより、言語モデルがコピー＆ペーストだけでなく、気が付かないうちにより高度な盗用をしていないかを検証する。 この研究では、21万件のテキストを用い、事前に訓練された言語モデルと専門分野に特化するよう微調整された言語モデルの2パターンの剽窃行動を検証する。具体的には、事
1
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
処理を実行中です
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
