Alibaba järjesteli johtoaan uusiksi
Alibaba järjesteli johtoaan uusiksi
Lisäksi: Andreessen Horowitzin katsaus kielimallien sovellusarkkitehtuuriin
Huomenta! ☕
Transistori on arkiaamuisin ilmestyvä teknologiauutisiin ja internet-kulttuuriin keskittyvä uutiskirje, jota sponsoroi ohjelmisto- ja datakonsultointipalveluja tarjoava Three Point Consulting. Klikkaa Transistori tilaukseen ja pysy kartalla teknologiamaailman tuoreimmista käänteistä!
Uutiset 🗞️
Alibaba järjesteli johtoaan uusiksi
Kiinalainen verkkokauppa- ja pilvijätti Alibaba ilmoitti eilen isosta muutoksesta yhtiön johtoon, kun yhtiö kertoi Alibaban perustajiin kuuluvan Joe Tsain palaavan yhtiön palvelukseen hallituksen puheenjohtajan muodossa. Tsain katsotaan olevan Alibaban suurimman osakkeenomistajan ja entisen toimitusjohtajan Jack Man läheinen liittolainen. Ma luopui Alibaban johtajuudesta vuonna 2018 ja on viime vuosina ollut Kiinan hallituksen kritiikin kohteena.
Valinta on myös mielenkiintoinen siksi, että Tsailla on vahvat kytkökset Yhdysvaltoihin sillä mies omistaa Brooklyn Nets -koripallo joukkueen. Alibaba kertoi myös toisen alkuperäisen perustajan, Eddie Wun, nousevan yhtiön toimitusjohtajaksi. Wall Street Journalilta (WSJ):
Alibaba Group named Brooklyn Nets owner Joe Tsai to be its chairman, putting the close ally of fellow co-founder Jack Ma atop the Chinese e-commerce giant as it seeks a revival from sluggish growth amid fierce competition.
Tsai, 59, is seen by company insiders and analysts as being close to Ma, the company’s largest shareholder who stepped down as executive chairman in 2019 and has kept a low profile after he appeared to have a fallout with Beijing amid a regulatory crackdown on the tech industry.
Their relationship could give Tsai more heft than the departing chairman Daniel Zhang to push along the company’s plans to reorganize itself into multiple independent companies and get its e-commerce business back on a growth track.
Zhang will also be replaced as chief executive officer by Eddie Wu, another of Ma’s co-founders who currently heads up the Taobao and Tmall domestic e-commerce business. The changes will be effective on Sept. 10
OpenAI suunnittelee uutta kauppapaikkaa kielimalleille
The Information raportoi OpenAI:n suunnittelevan kauppapaikkaa hienosäädetyille tekoälymalleille, jossa eri yhtiöt voisivat myydä muille pääsyä OpenAI:n malleihin jotka on hienosäädetty esimerkiksi yhtiöiden omalla datalla.
OpenAI—an early mover in releasing chatbots powered by large-language models—is contemplating another initiative to extend its influence in the world of artificial intelligence.
The company is considering launching a marketplace in which customers could sell AI models they customize for their own needs to other businesses, according to two people with knowledge of discussions at the company.
The marketplace could be OpenAI’s version of an app store, offering businesses a way to access bleeding-edge large-language models that can, for instance, sniff out financial fraud in online retail transactions or answer questions about specific markets with up-to-date information, these people said. Creating such an app store also could be a hedge against a future where no AI model dominates. It’s not clear whether OpenAI would charge commissions on those sales or otherwise look to generate revenue from the marketplace.
Spotify suunnittelee uutta premium -tilausta
Mainitaan vielä, että Bloombergin mukaan Spotify suunnittelee uuden premium-tilauksen lanseeraamista. Tilaus tulisi olemaan Spotifyn toistaiseksi kallein ns. tilaustaso, tosin sen tarkkaa hintaa ei tällä hetkellä ole tiedossa, ja se tulisi tarjoamaan tilaajille pääsyn parempaan äänenlaatuun sekä valikoiman äänikirjoja. Tilaus on tarkoitus lanseerata Yhdysvalloissa lokakuussa ja muualla maailmassa ennen USA:n lanseerausta.
Spotify Technology SA is planning a more expensive subscription option that’s expected to include high-fidelity audio in an effort to drive more revenue and placate investors who’ve been saying the company should raise its prices.
Dubbed “Supremium” internally, according to people familiar with the strategy, the new tier will be Spotify’s most expensive plan and likely offer a HiFi feature the company first announced it was working on in 2021. Spotify delayed that product’s rollout after two of its competitors, Apple Music and Amazon Music, began offering the feature for free as part of their standard plans. The new tier will launch this year in non-US markets first.
To augment its current “Premium” tier, Spotify will give subscribers expanded access to audiobooks, either through a specific number of hours free per month or a specific number of titles. There will be an option to purchase more. Currently, the company only sells audiobooks a la carte through its app. Spotify plans to introduce that feature in the US in October, after first launching in markets abroad.
Suosittelut 🕵️
Andreessen Horowitzin katsaus kielimallien sovellusarkkitehtuuriin
Kasvuyrityksiin sijoittava Andreessen Horowitz julkaisi eilen erittäin kattavan katsauksen kielimallien ympärille muodostuvaan sovellusekosysteemiin ja -arkkitehtuuriin. Artikkelissa on paljon mielenkiintoisia teknisiä yksityiskohtia, mutta sen ydin on alla oleva kaavio itse ns. “kielimallistäkistä”.
Itselleni otti myös silmään artikkelin osio kielimallien ns. kontekstioppimisesta, missä haluttu data pilkotaan vektoritietokantaan ja sitä syötetään kielimallille sen perusteella onko se relevanttia juuri sen hetkiseen käyttäjäkyselyyn liittyen. Kontekstioppiminen on usein huomattavasti suoraviivaisempi operaatio kuin kielimallin hienosäätäminen:
This looks like a lot of work, but it’s usually easier than the alternative: training or fine-tuning the LLM itself. You don’t need a specialized team of ML engineers to do in-context learning. You also don’t need to host your own infrastructure or buy an expensive dedicated instance from OpenAI. This pattern effectively reduces an AI problem to a data engineering problem that most startups and big companies already know how to solve. It also tends to outperform fine-tuning for relatively small datasets—since a specific piece of information needs to occur at least ~10 times in the training set before an LLM will remember it through fine-tuning—and can incorporate new data in near real time.
One of the biggest questions around in-context learning is: What happens if we just change the underlying model to increase the context window? This is indeed possible, and it is an active area of research (e.g., see the Hyena paper or this recent post). But this comes with a number of tradeoffs—primarily that cost and time of inference scale quadratically with the length of the prompt. Today, even linear scaling (the best theoretical outcome) would be cost-prohibitive for many applications. A single GPT-4 query over 10,000 pages would cost hundreds of dollars at current API rates. So, we don’t expect wholesale changes to the stack based on expanded context windows, but we’ll comment on this more in the body of the post.
Koko artikkeli on lukemisen arvoinen ja esimerkiksi kielimallien operationalisointia tutkiva Shreya Shankar (josta on tullut viimeisen vuoden aikana eräänlainen LLMOps influencer) totesi blogikirjoituksen resonoivan omien kokemustensa kanssa:
Nopeet 🚀
Matthew Yglesias pohtii voisiko videopeleihin sisällyttää kognitiivista käyttäytymisterapiaa tulevaisuudessa.
Time julkaisi tietoja siitä miten OpenAI on lobannut EU:n tulevaa AI Act -lakia.
The Vergeltä pitkä katsaus työntekijöihin jotka luokittelevat dataa tekoälyille.
Kanadalainen logistiikkayhtiöille SaaS:ia tarjoava Rose Rocket kertoi 38 miljoonan dollarin jatkorahoituksesta.
(€) Microsoftin Satya Nadella ja Activisionin Bobby Kotick todistavat oikeudessa Microsoftin Activision -yrityskaupan puolesta.
(€) Piilaakson VC:t sijoittavat nyt entistä enemmän puolustusalan kasvuyrityksiin.
CNN raportoi siitä miten tekoälystä tuli valkoiselle talolle korkean prioriteetin teema tämän kevään aikana.
Tekoäly-yrittäjä George Hotz vieraili Latent Space -podcastissa ja mainitsi siellä, että GPT-4:ssä olisi n. 1,7 biljoonaa parametria kaiken kaikkiaan.
Suosittu Heroku-klooni Render kertoi 50 miljoonan dollarin uudesta rahoituskierroksesta.