Jacob Coxon, fost cercetător în industrie AI la Anthropic (Claude) și anterior la OpenAI (GPT), a lansat un avertisment serios privind ritmul accelerat al dezvoltării inteligenței artificiale. În cuvinte clare, el susține că progresul este atât de rapid încât măsurile de siguranță și mecanismele de control ar putea să nu țină pasul cu noile sisteme.
Potrivit afirmațiilor sale, marile companii investesc în IA capabilă să se îmbunătățească singură, iar această cursă poate însemna „jocuri cu viețile noastre” dacă nu există un cadru de supraveghere stringent. El subliniază că următorii unu-doi ani sunt percepuți de unii cercetători din interiorul industriei drept o perioadă decisivă pentru viitorul omenirii.
Această viziune a fost însoțită de atenționări suplimentare din zona aliniării AI: Evan Hubinger, coordonatorul cercetării privind alinierea sistemelor AI la Anthropic (Claude), a estimat separat un risc peste 10% ca inteligența artificială să provoace dispariția omenirii în următorul deceniu. Este important de menționat că această cifră îi aparține lui Hubinger ca evaluare personală, nu reprezintă o concluzie a lui Coxon sau a vreunei entități oficiale.
În contextul local, avertismentele despre potențialele riscuri ale IA au repercusiuni directe pentru Teleorman: companiile din zonă, administrația și mediul academic sunt chemate să discute măsuri de pregătire digitală, etică în dezvoltare și reguli clare pentru a promova utilizarea responsabilă a IA în proiecte locale, precum și să își îmbunătățească competențele tehnologice într-un cadru de reglementare adecvat.
