Meta julkaisi Llama 3 -perheen pienimmät mallit
Meta julkaisi Llama 3 -perheen pienimmät mallit
Lisäksi: Mark Zuckerberg Dwarkesh Patelin haastateltavana
Huomenta! ☕
Transistori on arkiaamuisin ilmestyvä teknologiauutisiin ja internet-kulttuuriin keskittyvä uutiskirje, jota kirjoittaa data-ammattilaisena toimiva Robert Siipola harrastuksenaan. Klikkaa Transistori tilaukseen ja pysy kartalla teknologiamaailman tuoreimmista käänteistä!
Uutiset 🗞️
Meta julkaisi Llama 3 -perheen pienimmät mallit
Meta julkaisi eilen Llama 3 -kielimalli perheestä kaksi versiota joista toisessa on 8 miljardia parametria ja toisessa 70 miljardia. Lisäksi yhtiö kertoi kouluttavansa vielä suurempaa, 400 miljardin parametrin version mallia joka julkaistaan myöhemmin. Metalta:
Today, we’re excited to share the first two models of the next generation of Llama, Meta Llama 3, available for broad use. This release features pretrained and instruction-fine-tuned language models with 8B and 70B parameters that can support a broad range of use cases. This next generation of Llama demonstrates state-of-the-art performance on a wide range of industry benchmarks and offers new capabilities, including improved reasoning. We believe these are the best open source models of their class, period. In support of our longstanding open approach, we’re putting Llama 3 in the hands of the community. We want to kickstart the next wave of innovation in AI across the stack—from applications to developer tools to evals to inference optimizations and more. We can’t wait to see what you build and look forward to your feedback.
Pienempi Llama on vertailuarvioissa selkeästi mm. Mistralin ja Googlen Gemma -malleja edellä, ja 70 miljardin parametrin malli peittoaa mm. Gemini Pro 1.5:n ja Claude 3 Sonnetin:
Lupaavasti, vielä koulutettavana oleva 400 miljardin parametrin mallin yltää jo nyt esimerkiksi MMLU -vertailuarviossa GPT-4:n ja Claude 3 Opuksen tasolle:
Meta julkaisi myös tekoälyavustaja Meta AI:n laajemmin ympäri maailmaa (tosin ei ainakaan vielä Suomessa) ja sen löytää pian mm. WhatsAppista, Instagramista ja Messengeristä. Metalta:
Built with Meta Llama 3, Meta AI is one of the world’s leading AI assistants, already on your phone, in your pocket for free. And it’s starting to go global with more features. You can use Meta AI on Facebook, Instagram, WhatsApp and Messenger to get things done, learn, create and connect with the things that matter to you. We first announced Meta AI at last year’s Connect, and now, more people around the world can interact with it in more ways than ever before.
Netflixillä on nyt lähes 270 miljoonaa tilaajaa
Netflix kertoi osavuosikatsauksessaan lisänneensä 9,3 miljoonaa uutta käyttäjää vuoden 2024 ensimmäisen neljänneksen aikana, mikä ylitti analyytikoiden odotukset. Yhtiön liikevoitto oli 2,3 miljardia dollaria ja liikevaihto 9,3 miljardia dollaria, joista jälkimmäinen nousi 15 prosenttia vuoden takaiseen verrattuna. Netflixillä on nyt lähes 270 miljoonaa tilaajaa maailmanlaajuisesti. Lisäksi sen mainoksilla tuettujen tilausten määrä kasvoi 65 %. The New York Timesilta:
Netflix added 9.3 million subscribers in the first quarter of 2024, it announced on Thursday, outperforming analysts’ expectations and solidifying its status as the entertainment industry’s dominant streaming company.
It also generated $2.3 billion in net income and its revenue was $9.3 billion, 15 percent higher compared with the same time last year. Netflix now has almost 270 million subscribers around the world.
The streaming giant said its quarter was buoyed by audience interest in series such as “Griselda,” “3 Body Problem” and “Avatar: The Last Airbender.”
Its ad-tier business, which is now a year old and offers subscribers a lower-priced option, grew 65 percent from last quarter. The company said that in the markets where the ad tier was available, 40 percent of new sign-ups chose that option. Cracking down on password sharing among households also buoyed the company’s quarterly numbers.
Osavuosikatsaus alitti kuitenkin sijoittajien odotukset, sillä osake laski jälkipörssissä melkein 5 %.
Google kertoi yksiköidensä uudelleen järjestäytymisestä
Mainitaan vielä, että Google kertoi eilen merkittävästä sisäisestä uudelleen järjestäytymisestä, minkä seurauksena yhtiön pitkäaikainen laitejohtaja Rick Osterloh saa vastuullen uuden Platforms and Devices -yksikön mihin kuuluu niin Googlen Pixel -laitteet, Android ja ChromeOS -käyttöjärjestelmät, Chrome -selaimen ja mm. Google Photosin.
Osterlohin mukaan uudelleenjärjestäytymisen motiivina on helpottaa tekoälyn tuomista yhtiön tuotteisiin. The Vergeltä:
AI is taking over at Google, and the company is changing in big ways to try to make it happen even faster. Google CEO Sundar Pichai announced substantial internal reorganizations on Thursday, including the creation of a new team called “Platforms and Devices” that will oversee all of Google’s Pixel products, all of Android, Chrome, ChromeOS, Photos, and more. The team will be run by Rick Osterloh, who was previously the SVP of devices and services, overseeing all of Google’s hardware efforts. Hiroshi Lockheimer, the longtime head of Android, Chrome, and ChromeOS, will be taking on other projects inside of Google and Alphabet.
This is a huge change for Google, and it likely won’t be the last one. There’s only one reason for all of it, Osterloh says: AI. “This is not a secret, right?” he says. Consolidating teams “helps us to be able to do full-stack innovation when that’s necessary,” Osterloh says. He uses the example of the Pixel camera: “You had to have deep knowledge of the hardware systems, from the sensors to the ISPs, to all layers of the software stack. And, at the time, all the early HDR and ML models that were doing camera processing… and I think that hardware / software / AI integration really showed how AI could totally transform a user experience. That was important. And it’s even more true today.”
Suosittelut 🕵️
Mark Zuckerberg Dwarkesh Patelin haastateltavana
Eilisten tekoälyjulkistusten saatteeksi Zuck antoi haastattelun podcasteri Dwarkesh Patelille jossa käsiteltiin mm. yhtiön oppeja Llama 3:n rakentamisessa.
Zuck kertoi myös yhtiön alkuperäisestä isosta näytönohjaininvestoinnista, joka tehtiin alunperin Reelsin suosittelumallien kouluttamista varten, mutta joita voitiin myöhemmin käyttää Llama -malleja varten.
Nopeet 🚀
Oikeus Yhdysvalloissa on todennut, että koodi ei ole lakia ja samalla tuominnut kryptohakkeri Avraham Eisenbergin syylliseksi.
DARPA koulutti tekoälyn hävittäjälentäjäksi.
Taiwanin maanjäristys aiheutti TSMC:lle noin 100 miljoonan dollarin kulut.
lol.
Python lintteri Ruffista tuli viime päivityksen myötä 20 - 40 % nopeampi.
Andrej Karpathyn analyysiä Llama 3:sta.
Amazonin Fallout saa toisen kauden.
(€) Peking ohjeisti Applea poistamaan WhatsAppin App Storesta Kiinassa.