Через несколько дней после того как Илон Маск (Elon Musk), гендиректор компанииTesla, заявил, что один из создателей Facebook, Марк Цукерберг (Mark Zuckerberg), плохо разбирается в искусственном интеллекте (ИИ), соцсеть якобы закрыла одну из своих систем ИИ, потому что «ситуация вышла из-под контроля». Дело в том, что боты ИИ создали собственный язык с нуля и без человеческой помощи, и даже общались на нем, что противоречило существующим кодам, пишет Gadgets.
В рамках проекта по развитию ИИ специалисты социальной сети позволили ботам свободно общаться друг с другом, чтобы укрепить их коммуникативные навыки. Научившись вести переговоры, боты стали использовать алгоритмы обучения и продвинутые стратегии, чтобы улучшить результат этих переговоров.
«Спустя какое-то время, боты весьма преуспели в этом деле и даже начали выказывать фальшивый интерес к одному из предметов разговора, чтобы потом «пожертвовать» им ради достижения компромисса», — добавили представители компании.
Хотя данное происшествие является большим скачком для искусственного интеллекта, несколько экспертов, включая профессора Стивена Хокинга (Stephen Hawking), высказали опасения, что ИИ может превзойти людей, ограниченных медленной скоростью биологической эволюции.
Маск часто высказывался в отношении искусственного интеллекта и даже назвал его прогресс «самым большим риском, который стоит перед нами как перед цивилизацией».
«Искусственный интеллект – это тот редкий случай, когда нам нужно быть проактивными в его регуляции, а не реактивными, потому что, если мы будем реактивными в регуляции ИИ, будет слишком поздно», — сказал он.
Источник: Gadgets
