AWS ja HuggingFace kertoivat uudesta yhteistyösopimuksesta
AWS ja HuggingFace kertoivat uudesta yhteistyösopimuksesta
Lisäksi: DAIR.AI:n luento syötesuunnittelusta
Huomenta! ☕
Transistori on arkiaamuisin ilmestyvä teknologiauutisiin ja internet-kulttuuriin keskittyvä uutiskirje, jota sponsoroi ohjelmisto- ja datakonsultointipalveluja tarjoava Three Point Consulting. Klikkaa Transistori tilaukseen ja pysy kartalla teknologiamaailman tuoreimmista käänteistä!
Uutiset 🗞️
AWS ja HuggingFace kertoivat uudesta yhteistyösopimuksesta
Amazon ja tekoäly-yritys Huggingface kertoivat eilen uudesta kumppanuudesta, jonka myötä HuggingFace aikoo jatkossa käyttää Amazonin pilvipalvelun AWS:n resursseja entistä enemmän.
HuggingFace tarjoaa mm. kielimalleille keskitetyn tallennuspaikan, mistä kuka tahansa voi käydä lataamassa malleja omaan käyttöön. Lisäksi yhtiö tekee avoimeen lähdekoodiin perustuvaa ohjelmistokirjastoa, joka helpottaa kielimallien käyttöä. Jatkossa HuggingFacen yhteisön jäsenet voivat vuorovaikuttaa kielimallien ja kirjaston kanssa AWS:n SageMaker -ympäristössä. HuggingFacelta:
There have been significant advances in new Transformer and Diffuser machine learning models that process and generate text, audio, and images. However, most of these popular generative AI models are not publicly available, widening the gap of machine learning capabilities between the largest tech companies and everyone else. To counter this trend, AWS and Hugging Face are partnering to contribute next-generation models to the global AI community and democratize machine learning. Through the strategic partnership, Hugging Face will leverage AWS as a preferred cloud provider so developers in Hugging Face’s community can access AWS’s state-of-the-art tools (e.g., Amazon SageMaker, AWS Trainium, AWS Inferentia) to train, fine-tune, and deploy models on AWS. This will allow developers to further optimize the performance of their models for their specific use cases while lowering costs. Hugging Face will apply the latest in innovative research findings using Amazon SageMaker to build next-generation AI models. Together, Hugging Face and AWS are bridging the gap so the global AI community can benefit from the latest advancements in machine learning to accelerate the creation of generative AI applications.
Bloombergin mukaan HuggingFace sitoutuu myös käyttämään AWS:n pilviresursseja rakentaessaan seuraavaa versiota yhtiön GPT-kilpailijasta, BLOOM:sta. Lisäksi AWS tulee tarjoamaan HuggingFacen palveluita pilvialustallaan.
HuggingFace kertoi viime vuoden toukokuussa viimeisimmästä, 100 miljoonan dollarin rahoituskierroksesta. Yhtiön arvo oli tuolloin n. 2 miljardia dollaria.
Microsoft sitoutuu tuomaan Xbox-pelejä Nintendon ja Nvidian alustoille.
Microsoft kertoi eilen peräti kahdesta sopimuksesta Xbox -peliyksikkönsä ja kilpailevien pelialustojen kanssa. Ensimmäinen oli Nintendon ja Xboxin välinen, kymmenen vuotta kestävä sopimus, jonka pohjalta Microsoft aikoo tuoda Xbox-pelejä, mukaan lukien tulevaisuudessa Call of Duty -pelisarjan Nintendon konsoleille, jos Microsoftin Activision kauppa toteutuu.
Microsoft kertoi myös tehneensä sopimuksen näytönohjaimistaan tunnetuksi tulleen Nvidian kanssa, jonka myötä Microsoft tuo Xbox-pelejä Nvidian pelien suoratoistopalveluun GeForce Now:hin.
On Tuesday, Microsoft and NVIDIA announced the companies have agreed to a 10-year partnership to bring Xbox PC games to the NVIDIA® GeForce NOW™ cloud gaming service, which has more than 25 million members in over 100 countries.
The agreement will enable gamers to stream Xbox PC titles from GeForce NOW to PCs, macOS, Chromebooks, smartphones and other devices. It will also enable Activision Blizzard PC titles, such as Call of Duty, to be streamed on GeForce NOW after Microsoft’s acquisition of Activision closes.
“Xbox remains committed to giving people more choice and finding ways to expand how people play,” said Microsoft Gaming CEO Phil Spencer. “This partnership will help grow NVIDIA’s catalog of titles to include games like Call of Duty, while giving developers more ways to offer streaming games. We are excited to offer gamers more ways to play the games they love.”
Microsoft toivonee molempien sopimusten lievittävän sääntelijöiden huolia yhtiön aikeista ostaa peliyhtiö Activision Blizzard.
Microsoft höllensi uuden Bingin rajoituksia
Mainitaan vielä, että Microsoft on hieman höllentänyt uudelle Bingille asetettuja rajoitteita, ja sallii nyt kuuden viestin keskusteluja chatbotin kanssa per sessio, aikaisemman viiden sijaan ja näin yhteensä 60 viestiä per päivä. Yhtiö aikoo höllentää rajoituksia entisestään lähitulevaisuudessa, sallimalla yhteensä 100 päivittäistä viestiä Bingin kanssa:
Since placing the chat limits, we have received feedback from many of you wanting a return of longer chats, so that you can both search more effectively and interact with the chat feature better.
We intend to bring back longer chats and are working hard as we speak on the best way to do this responsibly. The first step we are taking is we have increased the chat turns per session to 6 and expanded to 60 total chats per day. Our data shows that for the vast majority of you this will enable your natural daily use of Bing. That said, our intention is to go further, and we plan to increase the daily cap to 100 total chats soon. In addition, with this coming change your normal searches will no longer count against your chat totals. We will provide you more updates as we continue to make improvements in the model.
Suosittelut 🕵️
DAIR.AI:n luento syötesuunnittelusta
Olen viime viikkoina harrastanut huomattavat määrät niin sanottua syötesuunnittelua (prompt engineering) ja siihen liittyen trendasi eilen Hacker Newsissä tämä Github-projekti joka kokoaa yhteen erilaisia lähteitä ja linkkejä syötesuunnittelua varten.
Projektin takana on mm. Metalla ja Elasticilla aikaisemmin työskennellyt Elvis Saravia, joka on myös pystyttänyt aloitteelleen yhteisön nimeltä DAIR.AI. Saravia julkaisi myös viime viikonloppuna tunnin kestävän luennon syötesuunnittelusta, jonka voi katsoa alta. Luennolla käydään läpi erilaisia tekniikoita, joiden avulla kielimallien syötteitä voi parantaa.
Itse olen käyttänyt varsinkin ChatGPT:een syötesuunnitteluun pohjia tästä Awesome ChatGPT Prompts -projektista. Olen viimeaikoina pyytänyt mallia toimimaan mm. johdon konsulttina, henkilöstöhallinnan asiantuntijana ja Unix-oppaana. Myös OpenAI:lta löytyy neuvoja yhtiön kielimallien syötteiden suunnitteluun.
Syötesuunnitteluun suhtaudutaan usein teknisissä piireissä, hieman vähättelevästi. Yksi järkeily tähän on, että mallit tulevat kehittymään lähitulevaisuudessa niin paljon, että niille annettuja syötteitä tarvitsee jatkossa suunnitella entistä vähemmän ja vuorovaikutus niiden kanssa tulee olemaan yhtä luonnollista kuin ihmisten välinen vuorovaikutus. Tätä ajatusta haastoi tällä viikolla myös Simon Willison, joka julkaisi eilen syötesuunnittelua puolustavan blogikirjoituksen:
Comparisons to programming are interesting. With programming, you have a fixed, deterministic target. It’s possible to learn every inch of Python or JavaScript or C to the point that you can predict with absolute certainty what a piece of code will do by looking at it. And you can reinforce that by writing tests.
That’s not the case with language model prompts. Even the people who trained the model won’t be able to predict the output of a prompt without trying it first.
…
So no, I don’t think the need for prompt engineering is “a bug, not a feature”—and I don’t think it’s going to become obsolete. I expect it to get deeper and more sophisticated for many years to come.
Nopeet 🚀
Apple on todella suosittu nuorten amerikkalaisten keskuudessa.
WhatsApp näyttää testailevan jonkinlaista uutiskirjepalvelua.
(€) Moni 2020-21 välillä listautuneesta kasvuyrityksestä pyrkii nyt takaisin yksityiseksi.
37 Signals arvioi säästävänsä seitsämän miljoonaa dollaria viiden vuoden aikana siirtymällä pois pilvestä.
(€) Tencent ja Meta neuvottelevat siitä alkaako Tencent myymään Metan Quest 2:a Kiinassa.
Isojen kielimallien päälle tuotteen rakentaminen on yllättävän samanlaista kuin bioteknologia-alalla.
Elon haluaa muuttaa tapaa jolla Twitterin mainokset toimivat.
Microsoft rakensi demon ChatGPT:n käyttämisestä robotiikassa.
Bank of America arvioi että Metan tilauspalvelulla voisi olla 12 miljoonaa käyttäjää vuoden 2024 alkuun mennessä.
Coinbasen tulos oli lievä pettymys sijoittajille.