Hallitus nyökkäsi, GenAI-malleihin tarvitaan käyttäjän suostumus
Hallitus julkaisi lauantaina neuvonnan kaikille tekoälymalleja, ohjelmistoja tai algoritmeja käyttäville välittäjille ja generatiivisille tekoälyalustoille pyytää lupa hallitukselta ja merkitä alustansa ”testauksen alla” ennen niiden saattamista yleisön saataville.
Alustat – mukaan lukien Googlen Gemini, ChatGPT ja Krutrim AI – joutuvat sitten hakemaan käyttäjän suostumusta, jossa todetaan selvästi, että GenAI-malli tai alusta voi antaa virheellisiä tietoja ja olla virhealttiita.
”Tämä neuvonta viestii monella tapaa tulevaisuuden sääntely- ja lainsäädäntöpuitteemme, joka tähtää turvallisen ja luotettavan internetin luomiseen”, sanoi elektroniikka- ja IT-alan ministeri Rajeev Chandrasekhar.
Neuvonta seuraa kokeellisten mallien käyttöä generatiivisissa tekoälyalustoissa, jotka ovat raportoineet useista tapauksista puolueellisesta sisällöstä ja väärästä tiedosta.
Yrityksiä, erityisesti digitaalisia julkaisualustoja, on myös pyydetty keksimään tapa upottaa metatiedot tai yksilöllinen tunnistekoodi kaikkeen, mikä on synteettisesti luotu niiden alustoilla. Tämä auttaa jäljittämään tällaisten tietojen alkuperän.
”Kukaan ei voi paeta vastuuta siitä, mikä on laitonta”, Chandrasekhar sanoi ja lisäsi, että näiden alustojen palvelut eivät saa tuottaa vastauksia, jotka ovat Intian lakien mukaan laittomia ja uhkaavat vaaliprosessin eheyttä.
”Kaikki välittäjät tai alustat varmistavat, että heidän tietokoneresurssinsa eivät salli minkäänlaista ennakkoluulottomuutta tai syrjintää tai uhkaa vaaliprosessin eheyttä, mukaan lukien tekoälymallien/LLM/generatiivisten tekoälyjen, ohjelmistojen tai algoritmien käyttö”, neuvolassa sanotaan.
Yrityksiä on pyydetty toimittamaan 15 päivän kuluessa raportti toimenpiteistä.
Kun alustat ovat jättäneet hakemuksensa elektroniikka- ja IT-ministeriölle (MeitY), virkamiehet voivat pyytää mallin demoa, suorittaa tarvittavat testit ja arvioida suostumuksen hakumekanismia muun muassa.
Chandrasekhar sanoi, että ”anteeksi epäluotettavia” vastauksia ei voida hyväksyä, ja käyttäjän suostumus on pyydettävä asianmukaisin vastuuvapauslausekkein. josta tulee hiekkalaatikkomainen ympäristö näille alustoille.
”Tärkeintä on, että vastuu on nykyään heille (välittäjille). Tämä (neuvonnan noudattaminen) vain helpottaa heidän varmistua siitä, että vastuu voidaan tietyssä mielessä purkaa, koska he ovat paljastaneet sen ja he tarjoavat tätä laitonta sisältöä henkilön suostumuksella, jotta he voivat heillä on todellinen laillinen puolustus”, Chandrasekhar lisäsi.
Neuvonnassa hallitus toisti, että IT-lain ja/tai IT-sääntöjen määräysten noudattamatta jättäminen johtaisi mahdollisiin rikosoikeudellisiin seurauksiin välittäjille tai alustoille tai niiden käyttäjille, jos ne tunnistetaan, mukaan lukien, mutta ei rajoittuen tietotekniikkaan perustuvan syytteeseenpanoon. laki ja useat muut rikoslain säädökset.
Tällaiset vinoutumat tai väärät tiedot sisällössä, joka on luotu algoritmien, hakukoneiden tai AI-mallien avulla alustoilla, rikkoo IT-sääntöjen sääntöä 3 (1) (b) ja useita rikoslain säännöksiä. Tällä perusteella alustat eivät myöskään ole oikeutettuja tietotekniikkalain 79 §:n safe harbor -lausekkeeseen.
