OpenAI julkisti uuden kielimallinsa o1:n
OpenAI julkisti uuden kielimallinsa o1:n
Lisäksi: Ensivaikutelmia o1:stä
Huomenta! ☕
Transistori on (keskimäärin) neljänä arkiaamuna viikossa ilmestyvä teknologiauutisiin ja internet-kulttuuriin keskittyvä uutiskirje, jota kirjoittaa data-ammattilaisena toimiva Robert Siipola harrastuksenaan. Klikkaa Transistori tilaukseen ja pysy kartalla teknologiamaailman tuoreimmista käänteistä!
Uutiset 🗞️
OpenAI julkisti uuden kielimallinsa o1:n
OpenAI julkaisi vihdoin yhtiön kauan odotetun parempaan järkeilyyn kykenevän kielimallin o1:n, jota ennen julkaisua kutsuttiin koodinimellä Strawberry.
OpenAI:n tutkijat käyttävät vahvistetun oppimisen menetelmiä mallin järkeilyn parantamiseen, ja o1 käyttääkin enemmän aikaan, riippuen kysymyksen vaikeudesta, vastaustensa ajattelemiseen. o1:tä ja sen pienempää versiota o1 miniä voi nyt kokeilla ChatGPT Plus -tilauksen kanssa. OpenAI:lta:
We are introducing OpenAI o1, a new large language model trained with reinforcement learning to perform complex reasoning. o1 thinks before it answers—it can produce a long internal chain of thought before responding to the user.
OpenAI o1 ranks in the 89th percentile on competitive programming questions (Codeforces), places among the top 500 students in the US in a qualifier for the USA Math Olympiad (AIME), and exceeds human PhD-level accuracy on a benchmark of physics, biology, and chemistry problems (GPQA). While the work needed to make this new model as easy to use as current models is still ongoing, we are releasing an early version of this model, OpenAI o1-preview, for immediate use in ChatGPT and to trusted API users.
Our large-scale reinforcement learning algorithm teaches the model how to think productively using its chain of thought in a highly data-efficient training process. We have found that the performance of o1 consistently improves with more reinforcement learning (train-time compute) and with more time spent thinking (test-time compute). The constraints on scaling this approach differ substantially from those of LLM pretraining, and we are continuing to investigate them.
YC järjestetään nyt neljä kertaa vuodessa
Maailman tunnetuin yrityshautomo Y Combinator (YC) kertoi eilen laajentumassa niin, että hautomo vastaanottaa nyt neljä kertaa vuodessa yrityksiä ohjelmaansa, aikaisemman kahden sijaan. Ohjelman rakenne pysyy samana, eli se kestää 11 viikkoa ja sen lopussa yritykset pääsevät esittelemään yrityksiään sijoittajille. Muutoksen takana on YC:een nykyinen toiminnanohjaaja Garry Tan. Bloombergilta:
Y Combinator, the startup-building school that has launched businesses ranging from Airbnb Inc. to Stripe Inc., is expanding to four cohorts a year from two — meaning that the accelerator will be in session almost the entire year.
Spring and fall cohorts are joining the traditional winter and summer cohorts, President Garry Tan confirmed in a message. The program lasts about 11 weeks, each capped with an investor “Demo Day” when the startups pitch top venture capital firms.
The stepped-up schedule is the brainchild of Tan, an entrepreneur and venture capitalist who became president of Y Combinator, or YC, early last year. Under the new schedule, a season that traditionally was a break between the June-September summer session and January-April winter session will fill up with a new batch of founders and the attendant talks, meetups and office hours.
Trump ei aio väitellä toistamiseen Harriksen kanssa
Donald Trump totesi eilen omistamassaan Truth Social -sosiaalisessa mediassa, että ei aio väitellä toistamiseen Kamala Harriksen kanssa. Trump on itse painottanut pärjänneensä hyvin väittelyssä Harrista vastaan. Väittely jälkeen Harriksen kampanja taas totesi keränneensä 47 miljoonaa dollaria lahjoituksia. The New York Timesilta:
Former President Donald J. Trump declared on Thursday that he would not debate Vice President Kamala Harris again, as her campaign said it took in $47 million in donations in the 24 hours after they met for the first time.
Mr. Trump, who has insisted that he won Tuesday night’s debate while his aides have privately acknowledged he had a rough outing, wrote on his Truth Social site that there “will be no” additional debate with Ms. Harris. He reiterated that at his rally in Tucson, Ariz., where he spoke at a venue named for the singer Linda Ronstadt, who denounced him hours before his rally.
“Because we’ve done two debates and because they were successful, there will be no third debate,” he said at the rally, counting his debate against President Biden in June as the first one.
Suosittelut 🕵️
Ensivaikutelmia o1:stä
Nopealla testaamisella o1 on erittäin pätevä, tosin Sam Altman varoitteli twitterissä, että ajan myötä myös o1 tuntuu vähemmän vaikuttavalta. Omissa testeissäni mallilla on kestänyt noin 10 sekunttia vastata kysymyksiin.
GPT-4o:hn verrattuna vastaukset tuntuvat harkitummilta ja paremmin jäsennellyiltä, malli myös pilkkoo vastaukset paremmin loogisiin kokonaisuuksiin. Harmittavasti o1 ei ole multimodaalinen (ainakaan vielä), eli sille ei pysty antamaan kuvia analysoitavaksi.
OpenAI julkaisi o1:stä joukon videoita, jotka löytää täältä. Alla olevassa videossa OpenAI:n tutkija pyytää mallia koodamaan visualisaation Transformer -arkkitehtuurin self-attention -mekaniikalle:
Nopeet 🚀
Johtavat tekoäly-yhtiöt tapasivat Yhdysvaltain johtoa energiapolitiikan merkeissä.
Yhdysvaltain elintarvike- ja lääkevirasto myönsi Applen uusille AirPod Pro 2:lle luvan toimia virallisesti kuulolaitteina.
(€) Spotify kannustaa videoita tekeviä sisällöntuottajia tulemaan alustalleen.
(€) WSJ:n mukaan noin kolmasosa kaikesta VC -sijoituksista vuonna 2024 on mennyt tekoälyyn.
Kiinan Startup -ekosysteemi näyttää kärsineen viime vuosina.
GDPR näyttää haittaavan eurooppalaisia teknologiayhtiöitä enemmän kuin hyödyttää.