ChatGPT aiheuttaa päänvaivaa EU:n sääntelijöille
ChatGPT aiheuttaa päänvaivaa EU:n sääntelijöille
Lisäksi: Corridor Digital käytti diffuusiomalleja animen luontiin
Huomenta! ☕
Transistori on arkiaamuisin ilmestyvä teknologiauutisiin ja internet-kulttuuriin keskittyvä uutiskirje, jota sponsoroi ohjelmisto- ja datakonsultointipalveluja tarjoava Three Point Consulting. Klikkaa Transistori tilaukseen ja pysy kartalla teknologiamaailman tuoreimmista käänteistä!
Uutiset 🗞️
ChatGPT aiheuttaa päänvaivaa EU:n sääntelijöille
Politico julkaisi viime viikon lopussa katsauksen siitä, millainen vaikutus ChatGPT:llä ja muilla isoilla kielimalleilla on Euroopan Unionin suunniteltuun tekoälylakiin. Laista esiteltiin luonnos vuonna 2021, jossa teknologian käyttötarkoitukset luokiteltaisiin kolmeen kategoriaan: sallitut, riskikkäät ja kielletyt käyttötarkoitukset.
Kiellettyihin käyttötarkoituksiin lukeutuisi mm. Kiinassa käytössä olevat yhteiskuntapisteet, joiden pohjalta kansalaisia arvioitaisiin. Tekoälyn riskikästä käyttöä olisi taas mm. kuluttajien luottoluokitusten määrittäminen, ja sellaiset käyttötapaukset olisivat tiukemmin valvottuja. Ongelmaksi kuitenkin muodostuu isojen kielimallien kohdalla se, että samaa mallia voi käyttää moneen eri käyttötarkoitukseen, mikä aiheuttaa harmaita hiuksia sääntelijöille:
The technology has already upended work done by the European Commission, European Parliament and EU Council on the bloc’s draft artificial intelligence rulebook, the Artificial Intelligence Act. The regulation, proposed by the Commission in 2021, was designed to ban some AI applications like social scoring, manipulation and some instances of facial recognition. It would also designate some specific uses of AI as “high-risk,” binding developers to stricter requirements of transparency, safety and human oversight.
The catch? ChatGPT can serve both the benign and the malignant.
This type of AI, called a large language model, has no single intended use: People can prompt it to write songs, novels and poems, but also computer code, policy briefs, fake news reports or, as a Colombian judge has admitted, court rulings. Other models trained on images rather than text can generate everything from cartoons to false pictures of politicians, sparking disinformation fears.
Euroopan komissio, EU neuvosto ja parlamentti aloittavat aikaisintaan huhtikuussa lakiesittelyn viimeistelyn, ja eri elinten välisestä neuvottelusta odotetaan vaikeaa:
If Parliament has trouble wrapping its head around ChatGPT regulation, Brussels is bracing itself for the negotiations that will come after.
The European Commission, EU Council and Parliament will hash out the details of a final AI Act in three-way negotiations, expected to start in April at the earliest. There, ChatGPT could well cause negotiators to hit a deadlock, as the three parties work out a common solution to the shiny new technology.
Tekoälyn käyttö puhelinhuijauksissa on yleistynyt USA:ssa
Washington Post julkaisi viikonloppuna artikkelin jossa käsiteltiin Yhdysvalloissa yleistyviä tekoälyn avulla tehtäviä puhelinhuijauksia. Nykyisillä tekoälymenetelmillä on helppo muuntaa oma puheääni kuulostamaan toisen ihmisen ääneltä. Tämän pohjalta huijarit ovat alkaneet tehdä puheluita, usein vanhuksille, jossa nämä esittävät olevansa huijattavan hätään joutuneita läheisiä. Puhelun tarkoituksena on saada vanhus lähettämään huijaajalle rahaa.
Virkavallalla on nykyisellään huonosti työkaluja puuttua huijauksiin, koska puheluiden ja jäljittäminen on vaikeaa jos itse puhelut tulevat maan ulkopuolelta. Sama pätee myös varojen seuraamiseen:
As impersonation scams in the United States rise, Card’s ordeal is indicative of a troubling trend. Technology is making it easier and cheaper for bad actors to mimic voices, convincing people, often the elderly, that their loved ones are in distress. In 2022, impostor scams were the second most popular racket in America, with over 36,000 reports of people being swindled by those pretending to be friends and family, according to data from the Federal Trade Commission. Over 5,100 of those incidents happened over the phone, accounting for over $11 million in losses, FTC officials said.
Advancements in artificial intelligence have added a terrifying new layer, allowing bad actors to replicate a voice with just an audio sample of a few sentences. Powered by AI, a slew of cheap online tools can translate an audio file into a replica of a voice, allowing a swindler to make it “speak” whatever they type.
Experts say federal regulators, law enforcement and the courts are ill-equipped to rein in the burgeoning scam. Most victims have few leads to identify the perpetrator and it’s difficult for the police to trace calls and funds from scammers operating across the world. And there’s little legal precedent for courts to hold the companies that make the tools accountable for their use.
Metan LLaMA:n parametrit vuosivat BitTorrentiin
Mainitaan vielä, että Metan hiljattain julkaistun kielimallin LLaMA:n parametrit ovat vuotaneet bittorrent -vertaisverkkoon, josta käyttäjät nyt niitä latailevat. Meta on ilmoittanut, että se aikoo toistaiseksi tarjota mallia vain tutkijoille ja muille akateemisille käyttäjille, jotka voivat pyytää käyttöoikeutta malliin Google Forms -lomakkeen kautta. Joku malliin käyttöoikeuden saanut akateemikko on nyt ladannut sen parametrit BitTorrenttiin.
Projektin Github-sivulla eräs käyttäjä avasi kieliposkessa muutospyynnön projektin virallisiin ohjeisiin, jossa muutettaisiin ohjeissa oleva lomakkeeseen osoittava linkki, BitTorrentin magnet -linkiksi.
Asiasta käytiin myös runsaasti keskustelua Hacker Newsissä.
Suosittelut 🕵️
Corridor Digital käytti diffuusiomalleja animen luontiin
Los Angelisilainen tuotantostudio Corridor Digital julkaisi viime viikolla StableDiffusionia hyväksikäyttävän animen, joka oli kuvattu normaalisti videona ja jonka jokaisen kuvan diffuusiomalli oli muuttanut perinteisestä “valokuvasta” piirroskuvaksi. Itse videon näkee alta:
Yhtiö julkaisi myös toisen videon, jolla se käsitteli sitä miten video oli tehty ja miksi diffuusiomallien käyttö videoiden kanssa on haastavaa. Mallien luomat kuvat saattavat sisältää paljonkin satunnaisia muutoksia, ja videon muodostavat tuhannet peräkkäiset kuvat saattavat sisältää hyvinkin paljon vaihtelua kun diffuusiomalli prosessoi niitä. Tämän takia yhtiön piti pystyä vähentämään peräkkäisten kuvien sisältämää vaihtelua (kohinaa) ja pitämään kuvien tyylit vakioina.
Nopeet 🚀
Mark Gurmanin lähteiden mukaan Apple julkaisee M3 -prosessorin sisältävän iMac -pöytätietokoneen vuoden toisella puoliskolla.
BigTechnologyn kirjoitus siitä, miten sosiaalisten medioiden viimeaikaiset tilauspalvelut ovat kohdistettu vaikuttajille/sisällöntuottajille, sillä suurin osa normikäyttäjistä ei julkaiset tarpeeksi (mielenkiintoista) sisältöä.
Hyvää Tekkitwitteri -draamaa.
Foxconn sijoittaa 700 miljoonaa dollaria Intian tehtaaseen, jossa tullaan valmistamaan iPhonen osia.
(€) Twitterin mainosliikevaihto on tippui 40 % joulukuussa.
Linuxin pyörittämisestä Mac Studiossa.
Metan VR:n houkuttelevin käyttökohde on edelleen pelit.
Suosikki Kiina-analyytikkoni Dan Wang julkaisi vuosittaisen esseensä, tällä kertaa teemana elämä Kiinassa koronasulkuejn aikaan.
Meta alentaa Quest 2:n ja Quest Pron hintoja.
(€) LinkedInin perustaja Reid Hoffman ja Deepmindin perustajiin kuuluva Mustafa Suleymanin tekoäly-yhtiö Inflection neuvottelee 625 miljoonan dollarin rahoituskierroksesta.