Искусственный интеллект: надвигается риск «Чернобыля»

Эксперты предупреждают о растущих рисках, связанных с искусственным интеллектом, сравнивая ситуацию с потенциальным «Чернобылем». В центре внимания находится спор между администрацией Трампа и Anthropic, ведущей компанией в области ИИ, относительно контроля над технологией.

Спор касается отказа Anthropic разрешить Пентагону США использовать модели компании для всех законных целей из-за опасений по поводу потенциального злоупотребления технологией в автономном оружии и анализе цифровых данных граждан.

Дарио Амодей, генеральный директор Anthropic, выразил опасения по поводу использования ИИ в слежке и автоматизации вооружений, утверждая, что технология все еще непредсказуема и незрела.

Администрация Трампа назвала Anthropic «сумасшедшим левым бизнесом» и пригрозила исключить ее из партнерских отношений с оборонными подрядчиками. Этот спор подчеркивает ценность искусственного интеллекта как инструмента национальной мощи, а также отсутствие четких правил его использования.

Между тем, растут опасения по поводу потенциальных катастроф, вызванных искусственным интеллектом, таких как его использование для кибератак или разработки новых токсинов. Эксперты предупреждают о «моменте Чернобыля», когда неконтролируемое использование искусственного интеллекта приведет к огромному экономическому ущербу или гибели людей.