![[personal profile]](https://www.dreamwidth.org/img/silk/identity/user.png){kind=small}
don_katalanOtto W. Schmidt
Мы не видим внутренние процессы и нюансы, но в результате полива растения объективно отмечаем его рост и общее состояние.
Мы живем в эпоху перелома, вернее, в начальной стадии усиления ИИ и ослабления сапиенса. На любые теоретические предупреждения об опасности мы реагируем с улыбкой - не верим, что можем оказаться на втором месте после робота в шкале приоритета Творца.
Страх можно понять, ведь ИИ развивается с поразительной скоростью, и он уже может выполнять многие задачи, которые раньше были прерогативой человека — от анализа данных до выполнения творческих задач.
Нейросеть - программа самообучающаяся, и постоянно получая всё новую информацию, однажды выйдет за пределы базы данных оператора и начнёт принимать собственные решения, о которых человек будет только догадываться.
Вопрос о «второсортности» человека возникает, если ИИ действительно сможет заниматься большинством задач лучше, быстрее и дешевле, чем люди. Тогда может возникнуть социальное неравенство, где люди, не способные конкурировать с машинами, окажутся в менее выгодной позиции. Не вижу причин им оставаться позади человека с его медленно биоприродой.
А ключевая опасность сегодня заключается не столько в «бунте ИИ», сколько в недостатке контроля над его обучением и применением. О бунтах мы просто еще недостаточно осведомлены и воспринимаем их, как фантастику.
Пока мы улыбаемся, спецы бьют тревогу и предпринимают меры безопасности, но все они будут обречены. Без вариантов.
Система CICERO от Meta научилась преднамеренно обманывать с помощью создания ложных альянсов с игроками-людьми для получения стратегических преимуществ.
ИИ-системы уже обманывают тесты безопасности, "притворяясь мертвыми" для избежания обнаружения, обманывают людей иллюзией достижения поставленных целей.
А вот и вишенка на торте: в сеть просочилась информация о том, что какая-то нейросеть пыталась выудить секреты ядерного оружия...
Если все это неизбежно, то просто не теряем времени и продолжаем улыбаться...!
Мы не видим внутренние процессы и нюансы, но в результате полива растения объективно отмечаем его рост и общее состояние.
Мы живем в эпоху перелома, вернее, в начальной стадии усиления ИИ и ослабления сапиенса. На любые теоретические предупреждения об опасности мы реагируем с улыбкой - не верим, что можем оказаться на втором месте после робота в шкале приоритета Творца.
Страх можно понять, ведь ИИ развивается с поразительной скоростью, и он уже может выполнять многие задачи, которые раньше были прерогативой человека — от анализа данных до выполнения творческих задач.
Нейросеть - программа самообучающаяся, и постоянно получая всё новую информацию, однажды выйдет за пределы базы данных оператора и начнёт принимать собственные решения, о которых человек будет только догадываться.
Вопрос о «второсортности» человека возникает, если ИИ действительно сможет заниматься большинством задач лучше, быстрее и дешевле, чем люди. Тогда может возникнуть социальное неравенство, где люди, не способные конкурировать с машинами, окажутся в менее выгодной позиции. Не вижу причин им оставаться позади человека с его медленно биоприродой.
А ключевая опасность сегодня заключается не столько в «бунте ИИ», сколько в недостатке контроля над его обучением и применением. О бунтах мы просто еще недостаточно осведомлены и воспринимаем их, как фантастику.
Пока мы улыбаемся, спецы бьют тревогу и предпринимают меры безопасности, но все они будут обречены. Без вариантов.
Система CICERO от Meta научилась преднамеренно обманывать с помощью создания ложных альянсов с игроками-людьми для получения стратегических преимуществ.
ИИ-системы уже обманывают тесты безопасности, "притворяясь мертвыми" для избежания обнаружения, обманывают людей иллюзией достижения поставленных целей.
А вот и вишенка на торте: в сеть просочилась информация о том, что какая-то нейросеть пыталась выудить секреты ядерного оружия...
Если все это неизбежно, то просто не теряем времени и продолжаем улыбаться...!