Francesco Pira’s Post

Gemini Nano - 3.25B LLM running directly on your browser via transformers.js 🔥

Meet Sohu, the fastest AI chip of all time. With over 500,000 tokens per second in Llama 70B throughput, Sohu lets you build products impossible on GPUs. Sohu is the world’s first specialized chip (ASIC) for transformers (the “T” in ChatGPT). By burning the transformer architecture into our chip, we can’t run most traditional AI models. But for generative AI models, like ChatGPT (text), SD3 (images), and Sora (video), Sohu has unparalleled performance. One Sohu server runs over 500,000 Llama 70B tokens per second: >20x more than an H100 server (23,000 tokens/sec), and >10x more than a B200 server. We recently raised $120M from Primary Venture Partners and Positive Sum, with participation from Two Sigma Ventures, Skybox Datacenters, Hummingbird Ventures, Oceans, Fundomo, Velvet Sea Ventures, Fontinalis Partners, Galaxy, Earthshot Ventures, Max Ventures and Lightscape Partners. We’re grateful for the support of industry leaders, including Peter Thiel, David Siegel, Thomas Dohmke, Jason Warner, Amjad Masad, Kyle Vogt, Stanley Freeman Druckenmiller, and many more. We’re on track for one of the fastest chip launches in history: - Top hardware engineers and AI researchers have left every major AI chip project to join us. - We’ve partnered directly with TSMC on their 4nm process. We’ve secured HBM and server supply from top vendors and can quickly ramp our first year of production. - Our early customers have reserved tens of millions of dollars of our hardware. As we hit the limits of speed, cost, and scale on GPUs, specialized chips are inevitable. If you want to change the future of AI compute, please join us at www.etched.com/careers. (Benchmarks are from running in FP8 without sparsity at 8x model parallelism with 2048 input/128 output lengths. 8xH100s figures are from TensorRT-LLM 0.10.08 (latest version), and 8xB200 figures are estimated. This is the same benchmark NVIDIA and AMD use.)

Introducing Notion Sites—the easiest way to make a website We noticed a lot of you have been sharing Notion pages as one-off websites, so we turned Notion’s one-click “Publish“ button into a full suite of features called Notion Sites 🌐 → Now you can connect a custom domain and customize your site with formatting, home pages, search engine optimization, and analytics. Build landing pages, resumes, portfolios, career pages, company about pages, and even full help centers with just one click. Get started today: https://ntn.so/notionsites We can’t wait to see what you create!

Che c’è fermento le sentiamo tutti, ma le sensazioni sono sempre soggettive. Quando i fatti lo confermano e’ importante agire subito perché le finestre di opportunità si chiudono velocemente.  Dopo #Milano e #Torino, #Palermo e #Catania sono le città che oggi chiedono più lavoratori con competenze digitali. E’ un segnale importante perché significa che la trasformazione culturale delle imprese è stata avviata in modo efficace, adesso bisogna dare risposte concrete e farlo in tempi brevi: 1) Valorizzare le realtà locali che hanno gia’ competenze e metodo per formare a scala (senza reinventarsi l’acqua calda); 2) Favorire il rempatrio di cervelli, con incentivi ad hoc (es. allargando la platea del bonus affitti gia previsto dalla Regione); 3) Trasformare i tanti progetti di ‘rigenerazione urbana’ in ‘ living lab’ in cui si sperimentano nuove tecnologie di frontiera per rimanere al passo coi tempi; 4) Favorire la nascita di nuove imprese che fanno leva sulle nuove tecnologie e dotarle di capitali che ne possano sostenere crescita in mercati complessi; 5) Attrarre aziende più grandi, ma ponendo vincoli per evitare approcci opportunistici e predatori. Il momento è adesso, ci sono le condizioni e le risorse per fare un salto, dobbiamo ridare alla nostra terra speranza e dignità che meritano. Biagio Semilia Fabrizio Ferrandelli Iolanda Riolo Gianmarco Troia Ugo Parodi Giusino Daniele Rotolo Marco Imperato Alessandro Balsamo Manfredi Domina Victor Tambone Reyes Davide Faraci Rossella Ponente Pasquale (Pillo) Esposito Lavina Paola Di Rosa Francesco Anzelmo Salvatore Malandrino Stefano Micelli Arturo Meli Roberto Vitellaro Manlio Ciralli Sergio Scornavacca Emanuele Cacciatore Giulia Di Giovanni Cris Nulli Fulvio Andriolo Riccardo Rotolo marella caramazza Daniele Ghetti Gianvito Tumbarello Giuseppe Scalia Rosario Faraci Emanuele Spampinato Antonio Perdichizzi Danilo Mirabile Francesco Marino Annarita D'Urso Giovanni Iozzia #Sicilia #Innovazione Innovation Island SkillforEquity

🔹La società giapponese, tra i principali fornitori di Apple e Tesla, annuncia un nuovo materiale che cambierà le prestazioni energetiche. E il mercato la premia.