EU:n lainsäätäjät pääsivät sopuun AI Actista
EU:n lainsäätäjät pääsivät sopuun AI Actista
Lisäksi: Reaktioita AI Act -sopuun
Huomenta! ☕
Transistori on arkiaamuisin ilmestyvä teknologiauutisiin ja internet-kulttuuriin keskittyvä uutiskirje, jota sponsoroi ohjelmisto- ja datakonsultointipalveluja tarjoava Three Point Consulting. Klikkaa Transistori tilaukseen ja pysy kartalla teknologiamaailman tuoreimmista käänteistä!
Tämän vuoden viimeinen Transistori ilmestyy perjantaina 22.12, minkä jälkeen jään parin viikon joululomalle ja tarkoitus olisi palata takaisin sorvin ääreen 8.1.2024.
Uutiset 🗞️
EU:n lainsäätäjät pääsivät sopuun AI Actista
Euroopan Unioni pääsi alustavasti perjantaina sopuun tekoälyn sääntelyyn suunnitellusta AI Act -laista. Sääntely mm. kieltää joukon tekoälysovelluksia, mukaan lukien kasvokuvien pohjalta luodut kuvapankit, erilaiset biometriset luokittelujärjestelmät ja kiinalaistyylisen kansalaisten arviointijärjestelmät. Sääntelyn pohjalta tekoälyä ei saisi myöskään käyttää ihmisten manipulointiin.
Poikkeusaseman saa lainvalvonta, jolle varataan oikeus tietyissä tapauksissa käyttää joitain em. teknologioita. EU:n parlamentilta:
On Friday, Parliament and Council negotiators reached a provisional agreement on the Artificial Intelligence Act. This regulation aims to ensure that fundamental rights, democracy, the rule of law and environmental sustainability are protected from high risk AI, while boosting innovation and making Europe a leader in the field. The rules establish obligations for AI based on its potential risks and level of impact.
Banned applications
Recognising the potential threat to citizens’ rights and democracy posed by certain applications of AI, the co-legislators agreed to prohibit:
biometric categorisation systems that use sensitive characteristics (e.g. political, religious, philosophical beliefs, sexual orientation, race);
untargeted scraping of facial images from the internet or CCTV footage to create facial recognition databases;
emotion recognition in the workplace and educational institutions;
social scoring based on social behaviour or personal characteristics;
AI systems that manipulate human behaviour to circumvent their free will;
AI used to exploit the vulnerabilities of people (due to their age, disability, social or economic situation).
Kielimalleihin liittyen merkittävin linjaus tuli kohdassa jossa puhutaan yleishyödyllisestä tekoälystä. Tällaista teknologiaa kehittävien yhtiöiden täytyy julkaista lainmukaista dokumentaatiota malleistaan ja sitoutua noudattamaan EU-alueen immateriaalilakeja. Lisäksi jos mallilla katsotaan olevan “suuri vaikutus”, voidaan siltä kehittävältä yritykseltä vaatia tarkempia selvityksiä:
To account for the wide range of tasks AI systems can accomplish and the quick expansion of its capabilities, it was agreed that general-purpose AI (GPAI) systems, and the GPAI models they are based on, will have to adhere to transparency requirements as initially proposed by Parliament. These include drawing up technical documentation, complying with EU copyright law and disseminating detailed summaries about the content used for training.
For high-impact GPAI models with systemic risk, Parliament negotiators managed to secure more stringent obligations. If these models meet certain criteria they will have to conduct model evaluations, assess and mitigate systemic risks, conduct adversarial testing, report to the Commission on serious incidents, ensure cybersecurity and report on their energy efficiency. MEPs also insisted that, until harmonised EU standards are published, GPAIs with systemic risk may rely on codes of practice to comply with the regulation.
Laki siirtyy seuraavaksi EU:n parlamentin ja liiton jäsenvaltioiden parlamenttien hyväksyttäväksi.
Mistral julkaisi uuden mallin ja sai lisää sijoituksia
Entisten Metan ja DeepMindin tekoälytutkijoiden perustama ranskalainen Mistral julkaisi uuden tekoälymallin perjantaina. Yhtiön uusi malli perustuu Mixture of Experts (MoE) -nimiseen kielimalliarkkitehtuuriin, jossa yhdistellään useampaa pientä kielimallia. Mielenkiintoisen tästä tekee se, että OpenAI:n osaavimman mallin, GPT-4:n huhutaan myös olevan MoE -malli.
Mistralin tapauksessa MoE -malli koostuu kahdeksasta pienestä seitsämän miljardin parametrin kielimallista. Yhtiö julkaisi mallin hajautettuna torrent tiedostona, avoimen lähdekoodin Apach 2.0 -lisenssin alla.
Lisäksi Mistralin raportoidaan päässeen sopuun rahoituskierroksesta sijoittajien, kuten Andreessen Horowitzin ja Lux Capitalin kanssa. Rahoituskierroksen pohjalta yhtiön markkina-arvo olisi 2 miljardin dollarin luokkaa, ja yhtiö saa sijoittajilta n. 385 miljoonaa euroa. The New York Timesilta:
Mistral AI, a Paris start-up founded seven months ago by researchers from Meta and Google, has raised 385 million euros, or about $415 million, in yet another sign of feverish interest in a new kind of artificial intelligence that drives online chatbots.
The deal values the 22-person company at about $2 billion, two people familiar with the deal said. Investors include the Silicon Valley venture capital firms Andreessen Horowitz and Lightspeed Venture Partners.
The start-up’s value has increased more than sevenfold in just six months. In the summer, it raised a seed funding round of €105 million (about $113 million) that valued the company at about $260 million.
Mistralista on nopeasti tullut Euroopan tärkein tekoäly-yhtiö, mutta sen tarkka liiketoimintamalli on vielä osittain hämärän peitossa. Yhtiön perustajiin kuuluva Arthur Mensch kommentoi Financial Timesille (FT) viime viikon lopulla Mistralin valmistelevan oman alustan (pilvipalvelun) julkaisua vielä ennen vuoden loppua:
Mensch added that while the company was not yet making any money, he expected that to change “before the end of the year”, as it readies a new platform for customers to access its AI models.
Lisäksi yhtiön ura-sivuilla on julkaistu työnhakuilmoitus “implementation specialist” -nimikkeen alla toimivasta asiantuntijasta, jonka työtehtäviin kuuluu yhtiön tekstin täydentämisen mahdollistavan rajapinnan ohjeistaminen yhtiön asiakkailla:
Guide and support customers in deploying our text completion API into their infrastructure.
Work closely with customers to fine-tune models according to their specific requirements.
Assist clients in integrating our APIs into their front-end interfaces, ensuring a smooth user experience.
Regularly liaise with the product and technical teams to relay feedback and suggest improvements.
Design and develop product features that would meet the need of many customers.
Alex Jones sai Twitter-tilinsä takaisin
Mainitaan vielä, että Elon Musk on päättänyt palauttaa pahamaineisen amerikkalaisen radiojuontaja Alex Jonesin Twitter -tilin. Jonesin tili suljettiin alunperin jo vuonna 2018. Jones on vuosia levittänyt salaliittoteorioita ja on mm. väittänyt Sandy Hook -kouluammuskelun olleen huijausta. Tämän seurauksena Jones määrättiin maksamaan yli miljardin dollarin edestä korvauksia ammuskelun uhreille ja näiden omaisille viime vuonna. Associated Pressiltä:
Elon Musk has restored the X account of conspiracy theorist Alex Jones, pointing to a poll on the social media platform formerly known as Twitter that came out in favor of the Infowars host who repeatedly called the 2012 Sandy Hook school shooting a hoax.
It poses new uncertainty for advertisers, who have fled X over concerns about hate speech appearing alongside their ads, and is the latest divisive public personality to get back their banned account.
Musk posted a poll on Saturday asking if Jones should be reinstated, with the results showing 70% of those who responded in favor. Early Sunday, Musk tweeted, “The people have spoken and so it shall be.”
Suosittelut 🕵️
Reaktioita AI Act -sopuun
Kuten arvata saattaa nostatti perjantain tieto sovusta AI Act -sääntelyn suhteen huomattavan paljon kommentointia eri sosiaalisissa medioissa. Amerikkalaiset tekno-optimistit mm. ivailivat X:ssä EU:n sisäasioista vastaavan komissaarin, Thierry Bretonin twiitille jossa juhlittiin sääntelyn saavuttamista, ja ounastelivat sääntelyn johtavan siihen, että EU:n alueen tekoäly-yritykset jäävät auttamatta amerikkalaisten jättien jalkoihin:
Metan tekoälyjohtaja taas Yann LeCun suhtautui sääntelyyn hieman positiivisemmin ja kiitti Ranskan, Saksan ja Italian hallituksia siitä, että avoimen lähdekoodien lisenssien alla julkaistujen kielimallien säätely oli suhteellisen maltillista:
LeCun jakoi myös linkin New York Universityn peli- ja tekoälyprofessori Julian Togeliuksen analyysiin uudesta sääntelystä, joka oli sitä mieltä, että sääntely oli odotettua parempi. Kritiikkiä Togelius esittää siitä miten laki vaatii uuden teknologian sopeutumista olemassaoleviin immateriaalilakeihin sen sijaan, että kyseisiä lakeja sopeutettaisiin uuteen teknologiaan.
Nopeet 🚀
Twitter tuntuu olevan edelleen paras paikka (kansainvälisten) ajankohtaisten asioiden seurantaan.
Maailman tärkein tekoälykonferenssi NeurIPS alkaa tällä viikolla Yhdysvaltain New Orleansissa. Voisin kuvitella, että Mistral julkistaa konferenssissa esimerkiksi vertailuarvioita uudesta mallistaan.
Ars Technica vertaili ChatGPT Plus:aa ja uutta Bardia.
lol.
New York Timesissä profiloitiin tekno-optimisteja eli “kiihdyttäjiä”.
John Carmack ja John Romero muistelivat DOOM -peliä, sen täyttäessä 30-vuotta.
Noah Smith kirjoitti siitä miten halvat kiinalaiset sähköautot uhkaavat eurooppalaista autoalaa.
(€) TikTok investoi Indonesiaan.