Kiina ja Yhdysvallat julkaisivat suunnitelmiaan tekoälyn sääntelystä
Kiina ja Yhdysvallat julkaisivat suunnitelmiaan tekoälyn sääntelystä
Lisäksi: Tekoälyagentteja pelimaailmoissa
Huomenta! ☕
Transistori on arkiaamuisin ilmestyvä teknologiauutisiin ja internet-kulttuuriin keskittyvä uutiskirje, jota sponsoroi ohjelmisto- ja datakonsultointipalveluja tarjoava Three Point Consulting. Klikkaa Transistori tilaukseen ja pysy kartalla teknologiamaailman tuoreimmista käänteistä!
Uutiset 🗞️
Kiina ja Yhdysvallat julkaisivat suunnitelmiaan tekoälyn sääntelystä
Niin Kiina kuin Yhdysvallat edistivät tekoälyn sääntelyyn tarkoitettuja lakimuutoksia eilen. Aloitetaan Kiinasta, jonka kyberturvallisuusviranomainen julkisti eilen luonnoksen laista tekoälyn sääntelyä varten. Luonnoksessa mm. todetaan, että isojen kielimallien julkaisijat ovat vastuussa mallien luomasta tekstistä ja, että tekstisisältö ei saa olla sellaista että se kyseenalaistaisi valtion valtaa.
Wall Street Journalin (WSJ) haastatteleman kiinalaisen asiantuntijan mukaan, maan lakiluonnos on yksityiskohtaisempi kuin muissa maissa suunnitteilla olevat yleiset ohjeistukset luovaa tekoälyä varten. Lakiluonnos mm. estäisi tekoälysovellusten käyttäjien profiloinnin ja rajoittaa merkittävästi mallien tuottamaa sisältöä. WSJ:ltä:
The Cyberspace Administration of China will require companies to go through a government security review before providing such services and make companies responsible for the content their AI services generate, according to a draft of the rules. Content generated by such services shouldn’t contain elements that could subvert state power, incite secession or disrupt social order, the rules state.
…
China’s proposed rules are more detailed than general guidelines that are being discussed in other jurisdictions, said You Chuanman of the Chinese University of Hong Kong, Shenzhen, who specializes in tech regulation and global governance. China’s rules would include a prohibition on profiling users and impose strict controls on AI-generated content, which could jeopardize innovation as China battles the U.S. in developing advanced technologies, he said.
Samaan aikaan Yhdysvaltain kauppaministeriö julkaisi kansalaisille pyynnön kommenteista siitä miten säännellä tekoälyä tehokkaasti. Julkaistussa dokumentissa väläytetään mm. mahdollisuutta mallien altistamista erilaisille auditoinneille. Washington Postilta:
The Commerce Department took its most significant action to address the emerging technology Tuesday, when it asked the public to weigh in on how it could create regulations that would ensure AI systems work as advertised. The agency raised the potential of an auditing system, which could assess whether AI systems include harmful bias or distort communications to spread misinformation or disinformation.
As an A.I. arms race heats up in Silicon Valley, the agency is considering how to develop an auditing process, to ensure artificial intelligence powered technology is trustworthy. New assessments and protocols may be needed to ensure A.I. systems work without negative consequences, the Commerce Department said, much like financial audits confirm the accuracy of business statements.
Twitter osti 10 000 näytönohjainta luovaa tekoälyä varten
Business Insider raportoi, että Elon Muskin johtama Twitter on hiljattain ostanut noin 10 000 näytönohjainta luovaa tekoälyprojektia varten. Projektin yksityiskohdat ovat toistaiseksi hämärän peitossa.
Elon Musk is said to be moving forward with an artificial intelligence project within Twitter, despite recently signing an open letter calling for an industry-wide halt to any AI training for several months.
The Tesla billionaire, who acquired Twitter almost six months ago and has made some drastic changes there, recently purchased roughly 10,000 graphics processing units, or GPUs, for the platform, two people familiar with the company said. Tech companies typically use GPUs to work on large AI models, given the computational workload the newer technology requires.
Eilen raportoitiin myös, että Musk olisi sulauttanut Twitterin yhtiönä olemassaolevaan X -nimiseen pöytälaatikkoyhtiöön.
Sonyn rekrytoi aggressiivisesti osaajia pilvipelaamista varten
Mainitaan vielä, että The Vergen huomaamien työnhakuilmoitusten perusteella, japainilainen kuluttajateknologiajätti Sony suunnittelee pelaamiseen tarkoitettujen pilvipalveluidensa laajentamista. Yhtiöllä on tällä hetkellä auki 22 avointa paikkaa liittyen pelaamisen suoratoistoon, mukaan lukien pilvipelaamisen tuotepäällikköä.
Now that Google Stadia is dead and buried, it looks like Sony may seriously care about cloud gaming again. Despite a recent round of layoffs, Sony is currently hiring 22 roles related to cloud gaming tech — including one person whose job will literally be to “Develop and deliver the strategic vision for cloud game streaming at PlayStation.”
“Are you a ground-breaking innovator in the cloud streaming product space? Then you likely agree that Cloud Gaming is on its way to becoming a major part of the gaming industry,” reads part of a Sony job posting for a Director of Product Management for Cloud Gaming.
Suosittelut 🕵️
Tekoälyagentteja pelimaailmoissa
Palataan eilen mainitsemaani, Stanfordin ja Googlen tutkijoiden julkaisemaan tutkimukseen, jossa oli yhdistetty yhteensä 25 ChatGPT:ssä kiinni olevaa tekoälyagenttia Phaser -pelimoottorilla rakennettuun yksinkertaiseen Sims-pelejä muistuttavaan pelimaailmaan, jonka nimi oli Smallville.
Tutkijat antoivat jokaiselle agentille syötteenä “luonteen”, jonka pohjalta kielimalli sitten ohjasi agenttia sen päivittäisessä tekemisessä. Kielimallien rajoitteiden vuoksi (GPT-3.5:n muisti on vain n. 4000 tokenia, eli n. 3000 sanaa) piti niille rakentaa erilliset muistimoduulit niin lyhyelle kuin pitkäaikaiselle muistille.
Kaiken tämän seurauksena, mallien toiminta ja toistensa kanssa vuorovaikuttaminen muistutti hämmentävän paljon ihmisten käyttäytymistä ja viitoittaa myös todennäköisesti sitä miltä videopelien ei-ohjattavat hahmot (non-playable characters eli NPC:eet) tulevat lähitulevaisuudessa näyttämään. Pelaaja pystyi ohjaamaan agentteja, antamalla niille viestejä agenttien “sisäisenä äänenä”. Yksi julkaisusta mainittu esimerkki tällaisesta on eräälle agentille annettu viesti siitä, että tämä haluaa järjestää ystävänpäiväjuhlat helmikuun 14. klo viiden ja seitsämän välillä. Agentti alkaa heti “ajatuksen” saatuaan suunnittelemaan juhlia ja onnistuu lopulta saamaan useita kutsuvieraita paikalle oikeaan aikaan:
Generative agents coordinate with each other. Isabella Rodriguez, at Hobbs Cafe, is initialized with an intent to plan a Valentine’s Day party from 5 to 7 p.m. on February 14th. From this seed, the agent proceeds to invites friends and customers when she sees them at Hobbs Cafe or elsewhere. Isabella then spends the afternoon of the 13th decorating the cafe for the occasion. Maria, a frequent customer and close friend of Isabella’s, arrives at the cafe. Isabella asks for Maria’s help in decorating for the party, and Maria agrees. Maria’s character description mentions that she has a crush on Klaus. That night, Maria invites Klaus, her secret crush, to join her at the party, and he gladly accepts.
On Valentine’s Day, five agents—including Klaus and Maria— show up at Hobbs Cafe at 5pm and they enjoy the festivities (Figure 4). In this scenario, the end user only set Isabella’s initial intent to throw a party and Maria’s crush on Klaus: the social behaviors of spreading the word, decorating, asking each other out, arriving at the party, and interacting with each other at the party, were initiated by the agent architecture.
Tämä kaikki muistuttaa minua hyvin paljon sci-fi -sarja Westworldista jossa roboteille annetaan luonteet ihmisten toimesta, minkä jälkeen ne asuttavat aikuisten huvipuistoksi suunnitellun villi-länsi -teemaisen alueen.
Kaiken kaikkiaan, vaikuttaa hyvin todennäköiseltä, että osia tästä tutkimuksesta aletaan implementoimaan videopeleihin lähitulevaisuudessa. Todennäköisesti mallit eivät ehdi seuraavaan GTA-peliin, mutta yllätyn jos sitä seuraavassa niitä ei ole. Tutkimusryhmä ei julkaissut ainakaan vielä tutkimuksessa käytettyä lähdekoodia, mutta ryhmä latasi Smallville-ympäristöstä demon nettiin jossa agenttien toimintaa voi käydä seuraamassa.
Toinen asia mikä tässä mietityttää on se, että videopeleistä tullee lähitulevaisuudessa entistä mukaansatempaavampia, kun pelaajat haluavat testailla mallien kyvykkyyksiä ja yksikään pelikerta ei tule olemaan täysin samanlainen jos NPC:iden vuorovaikutukset toistensa kanssa ovat entistä vapaampia eikä etukäteen käsikirjoitettuja. Paljon tekoäly-yhteisössä aikaa viettävä New York Timesin kolumnisti Ezra Klein spekuloi pääsiäisenä julkaistussa podcastissa, miten internetin keksiminen ei johtanut valtavaan tuottavuuskasvuun osittain siksi, että ihmisten on netin myötä helppo etsiä itselleen häiriötekijöitä esimerkiksi sosiaalisesta mediasta. Miten paljon uskottavat NPC:eet ja muut luovan tekoälyn aiheuttamat (mahdolliset) häiriötekijät vaikuttavat teknologian potentiaaliin tuottavuuskasvun ajajana?
Nopeet 🚀
Suomalaisen Jaakko “Jack” Kokkon johtama finanssidataa keräävä AlphaSense sai sadan miljoonan dollarin sijoituksen Googlelta.
Microsoftin Teams-palvelussa on nyt saatavilla Snapchatin linssit.
OpenAI palkitsee nyt bugien löytäjiä.
Suosittu tietokantatyökalu DBeaver sai kuuden miljoonan dollarin seed-rahoituksen.
GPT-4 pärjäsi yllättävän hyvin Scott Aaronsonin kvanttilaskennan kurssilla.
Talouslehti Baronsin mukaan, yhä useampi amerikkalaisyhtiö raportoi SEC:lle antamissaan vuosiraporteissa AWS:n käytön olevan turvallisuusriski.
Instagramin perustajien uutispalvelu Artifactiin on tulossa kommentit.
lol.
Substackin Twitter-klooni Notes on nyt kaikkien saatavilla.