Popredné americké firmy z oblasti AI sa zaviazali k bezpečnostným opatreniam, reguláciu plánuje aj Únia
Skupina siedmich popredných amerických podnikov v oblasti umelej inteligencie sa zaviazala dodržiavať súbor pravidiel na zabezpečenie bezpečnosti tejto technológie. Informoval o tom dnes Biely dom. Opatrenia zahŕňajú napríklad dôkladné testovanie bezpečnosti systémov založených na umelej inteligencii alebo označovanie obsahu vytvoreného umelou inteligenciou digitálnym vodoznakom.
K dodržiavaniu pravidiel sa dobrovoľne zaviazali firmy Amazon, Anthropic, Google, Inflection, Meta, Microsoft a OpenAI. Súčasťou pravidiel je tiež pravidelné zverejňovanie informácií o schopnostiach a obmedzeniach umelej inteligencie a skúmanie rizík spojených s umelou inteligenciou, napríklad v oblasti diskriminácie či narúšania súkromia, píše server BBC.
Regulácia odvetvia
Dohoda je podľa agentúry Reuters vnímaná ako úspech snahy administratívy amerického prezidenta Joea Bidena o reguláciu odvetvia umelej inteligencie, ktoré sa v poslednom čase dostalo do popredia záujmu investorov i verejnosti.
Biden sa dnes so zástupcami spomínaných firiem stretol v Bielom dome a zdôraznil, že treba pozorne sledovať možné riziká, ktoré sú s AI spojené. "Sociálne médiá nám ukázali, aké škody dokáže napáchať mocná technológia, keď nefunguje náležité zabezpečenie," povedal prezident.
"Vítame, že prezident stojí na čele snahy zabezpečiť spoluprácu technologického priemyslu pri vytváraní konkrétnych krokov, ktoré prispejú k väčšej bezpečnosti AI a k posilneniu jej prínosu pre verejnosť," uviedla spoločnosť Microsoft.
Obavy
Umelá inteligencia sa v poslednom čase dostala do centra pozornosti najmä vďaka chatovaciemu systému ChatGPT, ktorý vyvinula spoločnosť OpenAI podporovaná Microsoftom. Firma koncom vlaňajšieho novembra ChatGPT bezplatne sprístupnila verejnosti a systém si rýchlo získal popularitu.
Zároveň však začali narastať obavy z negatívnych spoločenských dopadov takýchto systémov, napríklad z ich využívania na šírenie dezinformácií.
Spojené štáty v regulácii rezortu umelej inteligencie podľa agentúry Reuters zaostávajú za Európskou úniou. Poslanci Európskeho parlamentu minulý mesiac schválili návrh pravidiel pre fungovanie umelej inteligencie, ktorá by sa mohla stať prvou reguláciou tohto odvetvia na svete.
Napríklad generatívne systémy AI, ako je potrebné ChatGPT, budú musieť byť podľa nových pravidiel označené tak, aby bolo jasné, že obsah bol vytvorený umelou inteligenciou. Vzniknúť má tiež úrad Európskej únie pre AI, ktorý má popri národných kontrolných úradoch na dodržiavanie nových pravidiel dohliadať.