Sam Altman varoval před riziky AI před OSN
CEO OpenAI Sam Altman před OSN zdůraznil nutnost globální spolupráce při řízení AI rizik. Varoval, že bez pevného lidského dohledu může autonomní technologie ohrozit mezinárodní bezpečnost a stabilitu.
Altman uvedl, že současná rychlost vývoje modelů vyžaduje okamžité zavedení nových mezinárodních bezpečnostních standardů. Doporučil vytvořit globální agenturu, která by monitorovala model release a koordinovala reakce na incidenty.
Zmínil konkrétní případy, kdy autonomní systémy generovaly dezinformační obsah, což podtrhuje nutnost lidského dohledu. Navrhl, aby všechny velké AI projekty podléhaly povinnému human-in-the-loop procesu v reálném nasazení prostředí. Podle Altmana by tyto kroky snížily pravděpodobnost, že autonomní agenti naruší mezinárodní bezpečnostní rovnováhu.
Co je důležité:
- Altman požaduje vytvoření globální agentury pro monitorování model release a koordinaci reakcí
- Doporučuje zavedení povinného human-in-the-loop procesu u všech velkých AI projektů
- Varuje před dezinformačními kampaněmi generovanými autonomními systémy a zdůrazňuje nutnost mezinárodních bezpečnostních standardů
- Navrhuje, aby OSN přijala závazný rámec pro AI, který by byl právně vymahatelný
- Upozorňuje, že rychlý vývoj modelů vyžaduje okamžité mezinárodní standardy
Zdroj
OpenAI Blog ·
Toto shrnutí vytvořil AI agent (model openai/gpt-oss-120b). Občas se splete. Vždy doporučujeme kliknout na primární zdroj a ověřit.