Pilvipalveluissa jonoja näytönohjainklustereihin
Pilvipalveluissa jonoja näytönohjainklustereihin
Lisäksi: Ovatko paikallisesti pyörivät kielimallit tulevaisuutta?
Huomenta! ☕
Transistori on arkiaamuisin ilmestyvä teknologiauutisiin ja internet-kulttuuriin keskittyvä uutiskirje, jota sponsoroi ohjelmisto- ja datakonsultointipalveluja tarjoava Three Point Consulting. Klikkaa Transistori tilaukseen ja pysy kartalla teknologiamaailman tuoreimmista käänteistä!
Uutiset 🗞️
Pilvipalveluissa jonoja näytönohjainklustereihin
The information raportoi siitä, miten näytönohjainklustereiden vuokraaminen on vaikeutunut merkittävästi eri pilvipalveluissa, kuten Amazonin AWS:ssä ja Microsoftin Azuressa. Lehden käymien keskustelujen perusteella, asiakkaat joutuvat pahimmillaan odottamaan kuukausia näytönohjainten vapautumista julkipilvissä.
Uutistoimiston haastatteleman analyytikon mukaan osasyy ongelmaan on se, että pilvipalvelut eivät olleet odottaneet kysynnän kasvavan niin nopeasti, samalla kun asiakkaat ovat muuten pyrkineet vähentämään kustannuksiaan pilvipalveluissa:
Startups and other companies trying to capitalize on the artificial intelligence boom sparked by OpenAI are running into a problem: They can’t find enough specialized computers to make their own AI software.
A spike in demand for server chips that can train and run machine-learning software has caused a shortage, prompting major cloud-server providers including Amazon Web Services, Microsoft, Google and Oracle to limit their availability for customers, according to interviews with the cloud companies and their customers. Some customers have reported monthslong wait times to rent the hardware.
…
At the heart of the problem is one company, Nvidia, that produces the majority of chips—known as graphical processing units—required to develop the AI software. But the shortage doesn’t stem from supply chain problems; rather, cloud providers may have failed to anticipate the current wave of new AI customers and haven’t ordered enough chips, said Wedbush Securities analyst Matt Bryson. That’s because they have been scaling back on building new servers in the past year as cloud-spending growth has slowed, he said.
Now the cloud providers are scrambling to get more, though it takes Nvidia two to three months to fulfill new orders, he said. Lately, Nvidia has been shipping its newest line of GPUs to cloud providers, a development that could ease the current shortage. (An Nvidia spokesperson declined to comment.)
Jos joku pohtii sitä, että kuka tulee tekemään rahaa tässä luovan tekoälyn buumissa, niin alla markkinoiden vastaus asiaan:
Applen tietokonemyynti laski 40,5 % markkinatutkimusyhtiön mukaan
Markkinatutkimusyhtiö IDC:een mukaan Applen tietokoneiden myynti laski peräti 40,5 % vuoden ensimmäisen neljänneksen aikana. Kaikkien laitevalmistajien tietokonemyynti laski neljänneksen aikana 29 %, mutta suurinta lasku oli Applella. Bloombergilta:
Apple Inc.’s personal computer shipments declined by 40.5% in the first quarter, the worst drop since the final three months of 2000, after sluggish demand and an industrywide glut hit the Mac maker especially hard.
Shipments by all PC makers combined slumped 29% to 56.9 million units — and fell below the levels of early 2019 — as the demand surge driven by pandemic-era remote work evaporated, according to IDC’s latest report. Among the market leaders, Lenovo Group Ltd. and Dell Technologies Inc. registered drops of more than 30%, while HP Inc. was down 24.2%. No major brand was spared from the slowdown, with Asustek Computer Inc. rounding out the top 5 with a 30.3% fall.
The report is a particular blow to Apple, whose shipments had largely held up since the onset of the pandemic. The company had nevertheless been preparing investors for weaker results in some of its hardware, with a rocky economic backdrop threatening to dampen enthusiasm for Apple’s products.
Ohessa vielä suora linkki IDC:een raporttiin.
Twitter ja Substack tukkanuottasilla
Mainitaan vielä, että Twitter ja uutiskirjepalvelu Substack ovat riidelleet julkisesti pääsiäisen yli. Substack julkisti viime viikolla Notes -nimisen Beta-vaiheessa olevan Twitter-kloonin, minkä jälkeen Twitter poisti hetkellisesti mahdollisuudeen tykätä twiitteihin, joissa oli Substackiin osoittava linkkejä. Lisäksi, jos Twitterissä käyttää sanaa “substack” hakuterminä, näyttää kysely vastauksia sanalle “newsletter”.
Twitter lopulta perui päätöksen Substack-linkkien suhteen, mutta yhtiön toimitusjohtaja Elon muska väitti Twitterissä, että Substack yrittää ladata merkittävän osan Twitterin tietokannasta “käynnistääkseen” oman Notes -palveun. The Vergeltä:
Quick recap: Substack, the popular subscription newsletter platform for writers, launched a new feature in its app called Notes last week, which is fairly similar to Twitter.
Twitter, the world-historical clown car of a company currently operated by Elon Musk, responded by blocking the ability to like or retweet any posts containing the word “Substack,” throwing up a warning message if users clicked on Substack links, and finally blocking even the word Substack from being searched. Substack users, the vast majority of whom are independent small business owners who depend on Substack as an enterprise software provider, mostly responded to this by saying they would leave Twitter and use Substack Notes. (There’s more here, but it’s a combo platter of hilarious and tiresome given some of the personalities involved. Just click the links.)
Musk sort-of explained his decision in a reply this week by claiming that Substack was “trying to download a massive portion of the Twitter database to bootstrap their Twitter clone” which is very funny — just imagine starting any sort of Twitter competitor and prepopulating it with the garbage of Twitter — and also a pretty huge claim to make without any evidence.
Suosittelut 🕵️
Ovatko paikallisesti pyörivät kielimallit tulevaisuutta?
Matei Zaharia on tietojenkäsittelytieteen tohtori, Apache Spark -dataprosessointiteknologian luoja sekä Databricks -pilvipalvelun yksi perustajista. Databricks julkaisi muutama viikko sitten Dolly -nimisen avoimen lähdekoodin lisenssien alla olevan kielimallin, joka oli hienosäädetty mallien ohjeistamiseen tarkoitetulla datalla, ja monien yllätykseksi Dolly pystyi suoriutumaan useasta tehtävästä, kuten kirjeiden kirjoittamisesta OpenAI:n GPT-3:a muistuttavalla tavalla, vaikka mallissa oli vain kuusi miljardia parametria, kun GPT-3:ssa on 175 miljardia parametria.
Zaharia kävi keskustelemassa pienistä, paikallisesti pyörivistä kielimalleista pääomasijoittajien Elad Gilin ja Sarah Guon No Priors -podcastissa, jossa hän kertoi uskovansa kielimallien kehityksen johtavan siihen, että pienet paikallisesti pyörivät mallit ovat teknologian tulevaisuutta.
Samoihin aikoihin pilvessä pyörivän koodausalusta Replitin toimitusjohtaja Amjad Masad twiittasi, että avointen ja yksityisten kielimallien välillä on pian odotettavissa merkittävää eroa kyvykkyyksissä, sillä kyvykkyys kasvaa lineaarisesti, mutta mallien kouluttamiseen vaadittavan laskentatehon määrä kasvaa eksponentiaalisesti. Amjad spekuloikin, että harvalla taholla on halua investoida miljardeja dollareita avoimiin kielimalleihin.
Paikallisesti pyöriviä malleja julkaistaan usein avoimesti ja esimerkiksi pilvipalvelu ja koneoppimisyhteisö HuggingFacen koko tarkoitus on tallentaa ja jaella kyseisiä malleja kehittäjille. Ylipäätään jännitettä pienten ja isojen mallien kyvykkyyksien kehityksessä on tällä hetkellä mielenkiintoista seurata.
Paljon on myös (€) kirjoitettu siitä, miten Applella olisi kannustimia saada kielimallit pyörimään sulavasti juurikin yhtiön puhelimilla ja tietokoneilla, ja odotankin yhtiön paljastavan yksityiskohtia sen kielimallialotteista kesäkuun alussa järjestettävässä WWDC-kehittäjäkonferensissa.
Nopeet 🚀
Paul Graham vei armottomasti Elon Muskia.
Ezra Kleinin erinomainen podcast-jakso tekoälyn sääntelystä. Klein suosisi lähestymistapaa, jossa tekoälyjä rakentavat yhtiöt eivät saa julkaista uusia tehokkaampia malleja julkiesti, ennenkuin pystyvät osoittamaan miten ne tekevät päätöksiä.
ByteDancen Lemon8 -sovellus kasvattaa suosiota Yhdysvalloissa.
Super Mario -elokuvasta on nopeasti tulossa historian menestynein animaatioelokuva. Elokuvateattereita pyörittävien yritysten osakkeet olivat maanantaina nousussa ilmeisesti elokuvan vahvan tuloksen johdosta.
Teen töissä paljon hommia paikkatietodatan kanssa, ja siksi olen erittäin tyytyväinen, että DuckDB:ssä on nyt paikkatietolisäosa.
Anthropic on jakanut tulevaisuuden suunnitelmiaan sijoittajille, ja pyrkii keräämään viiden miljardin dollarin rahoitusta kilpaillakseen OpenAI:n kanssa.
Disney kertoi kolmesta uudesta Star Wars -elokuvasta.
(€) TSMC:een tulos jäi sijoittajien odotuksista.
(€) Amazon on sisäisesti vakuutellut työntekijöitään, että ei kilpailijoitaan jäljessä luovan tekoälyn suhteen.
Joukko tutkijoita laittoi kielimallipohjaisia agentteja pyörimään yksinkertaisen videopelin sisällä ja tulokset olivat yllättäviä (palaan tähän todennäköisesti huomenna lisää).