Илон Маск и более тысячи исследователей искусственного интеллекта подписали открытое письмо, призывающее все лаборатории по изучению ИИ на полгода приостановить разработку умных нейросетей.
«Сократят 300 млн человек по всему миру»: людей каких профессий совсем скоро могут заменить роботы
Илон Маск также активно наращивает вычислительные мощности ИИ в xAI, ориентированной на искусственный интеллект. Сообщается, что xAI, вероятно, владеет от 26 000 до 30 000 ИИ-ориентированных графических карт Nvidia. Кроме того, ожидается, что суперчип будет в 30 раз быстрее выполнять такие задачи, как генерация ответов в чат-ботах.
Маск неоднократно выступал с критикой созданного компанией чат-бота ChatGPT, поскольку считает используемую компанией модель ИИ «политически ангажированной». Более того, в конце марта предприниматель вместе с сооснователем Pinterest Эваном Шарпом и соучредителем Apple Стивом Возняком подписал петицию, которая призывает на полгода приостановить разработку новых моделей генеративного ИИ.
В заявлении говорилось, что за это время отрасль сможет разработать некие стандарты безопасного использования технологии и тем самым предотвратить потенциальный вред. Сейчас ИИ становится критически необходим любой компании, не только из IT-сферы, сказала руководитель отдела по работе с партнерами и клиентами Just AI Светлана Захарова. По ее словам, Маск не может оставаться в стороне от этого тренда и его беспокоят именно этические последствия появления новых технологий, а не коммерческая составляющая. Технологии Манифест с предложением приостановить исследования в области ИИ был скорее попыткой привлечь к данной теме как можно больше внимания, в том числе и со стороны государств, для рассмотрения вопроса о регуляторике, считает сооснователь компании Parodist AI Владимир Свешников.
Поэтому создание компании в этой области, по его словам, не выглядит как кардинальное изменение риторики. Возможно, что этот призыв скрывал за собой стремление Маска «нагнать уходящий поезд OpenAI» за счет создания искусственных преград для успешного конкурента, считает аналитик агентства MForum Алексей Бойко.
И уже сейчас нужно думать о своей безопасности. Эту точку зрения разделяет канадский математик и кибернетик Иошуа Бенджио и английский ученый и исследователь искусственного интеллекта Стюарт Рассел, ученые из Оксфорда, Кембриджа, Стэнфорда, Калифорнийского технологического института, а также известные технологические предприниматели — соучредитель Skype Яан Таллинн, соучредитель Pinterest Эван Шарп и соучредитель Ripple Крис Ларсен, писатель Юваль Ноа Харари и политик Эндрю Янг. Письмо ученых, инженеров и предпринимателей «Системы искусственного интеллекта могут представлять серьезные риски для человечества. Об этом свидетельствуют обширные исследования, признанные ведущими лабораториями искусственного интеллекта.
Продвинутый искусственный интеллект способен изменить жизнь на Земле. Нам следует планировать его развитие с особой тщательностью. К сожалению, в последние месяцы лаборатории искусственного интеллекта оказались втянутыми в бесконтрольную гонку за разработкой и внедрением все более мощных цифровых умов, которые никто — даже их создатели — не может надежно контролировать. Современные системы искусственного интеллекта конкурируют с человеком в решении многих задач. И мы должны спросить себя: позволим ли мы машинам наводнять наши информационные каналы пропагандой и ложью? Должны ли мы автоматизировать все рабочие места, включая те, работа на которых приносит радость?
Должны ли мы развивать нечеловеческие умы, которые в конечном итоге могли бы перехитрить и заменить нас? Должны ли мы рисковать потерей контроля над нашей цивилизацией? Такие решения не должны принимать неизбранные технические лидеры.
Бенджио посвятил свою жизнь науке, которая далека от производства. Он помог составить список лучших ученых в этой области, так что несколько следующих недель Брокман при помощи нескольких человек старался найти всех, кого только смог. Многие одобрили их идею, но они опасались выйти за привычные рамки. Брокман решил сломать стереотипы и пригласил десяток наиболее интересных ему в проекте персон на ужин, который провел на винодельне в долине Напа. Даже сама поездка туда способствовала развитию проекта. В конце дня Брокман пригласил всех 10 специалистов присоединиться к проекту и дал им три недели на размышления.
И 9 из 10 человек к моменту окончания срока вошли в проект и остались в нем, несмотря на внушительные предложения со стороны гигантов Силиконовой долины. Исследования в области глубинного обучения начались в ученых кругах. И только в последнее время гиганты вроде Google, Facebook и Microsoft начали работы в этой области, после того как появились очень мощные компьютеры, сделавшие нейронные сети реальностью. Такие ученые как Хинтон и ЛеКун покинули ученые круги в пользу Google и Facebook благодаря огромным ресурсам, которыми обладают эти компании. Но они продолжают общаться и обмениваться данными с другими учеными. Более того, как объясняет ЛеКун, для таких исследований нужен обмен идеями. Он объясняет это тем, что когда работы проходят в тайне, то отставание неизбежно. В итоге крупные компании делятся результатами своих исследований в области искусственного интеллекта. Это серьёзные изменения, особенно для Google, которая долго время скрывала все секреты в области технологий в самом сердце онлайн-империи.
Недавно Google открыла доступ к своему софту, который управляет нейронными сетями. Но она все равно остаётся на финишной прямой в гонке к будущему. Брокман, Альтман и Маск хотят отстаивать идею того, что важна открытость в таких исследованиях. Они отмечают, что не хотят видеть одну или две корпорации, которые контролируют все будущее искусственного интеллекта. Границы откровенности Все это хорошо звучит на словах. Но не смотря на идеализм OpenAI исследователи могут пойти на те же компромиссы, что и на своих предыдущих работах. У откровенности есть свои пределы. Найти долгосрочную перспективу искусственного интеллекта — отнюдь не единственная цель, ведь это не благотворительность. Компании Маска могли оказать стартапу огромную помощь, как и компании, которые поддерживал Y Combinator Альтмана.
Как сказал ЛеКун, это некоммерческий проект, но он очень плотно связан с Y Combinator. И тем, кто там работает, платят столько же, как и занятым в работе индустрии. По словам Брокмана астрономических зарплат как в Facebook или Google в лаборатории не платят. Но он говорит, что там хотят платить достойно и предлагают компенсацию в виде пакета акций Y Combinator, а в будущем и Space X которая в отличие от Tesla пока что является частной компанией. Однако Брокман настаивает на том, что OpenAI не будет создавать особые условия для сестринских компаний. В приоритете исследовательская деятельность, а не консалтинг, хотя он и признает, что идеалы OpenAI имеют пределы. Компания, может быть, и не поделиться абсолютно всем, что узнает, но, тем не менее, планирует обмениваться открытиями в научных статьях или через интернет-сервисы. Проводить все исследования в открытую — не лучший способ ведения дел. Вы хотите обдумать идею, увидеть к чему она ведет, а потом уже опубликовать это», говорит Брокман.
Илон Маск запустил собственную компанию по работе с искусственным интеллектом
Подписанты просят все лаборатории искусственного интеллекта и независимых экспертов разработать общие протоколы безопасности, которые гарантируют безопасность систем. По всему миру многие учреждения и правительства выразили обеспокоенность этическими и юридическими проблемами, создаваемыми продвинутым искусственным интеллектом, таким как ChatGPT. Недавно Европол предупредил о возможном использовании систем искусственного интеллекта, таких как ChatGPT, для киберпреступлений, попыток фишинга и распространения дезинформации. Многие правительства работают над правовой политикой и нормативно-правовой базой для контроля над ИИ.
Нелл Уотсон, эксперт по искусственному интеллекту и специалист по этике, поделилась подробным описанием того, как технология может превратиться из чат-ботов в сверхинтеллектуальных агентов в течение следующих 12 месяцев. Этот путь начался бы с масштабных инвестиций в новую вычислительную инфраструктуру стоимостью 100 миллиардов долларов, а затем ИИ научился бы самосовершенствоваться до тех пор, пока не стал бы "сознательным". Уотсон, автор книги "Укрощение машины: использование возможностей ИИ с этической точки зрения", описал сверхчеловеческий ИИ как систему, которая намного превосходит возможности человека по всем параметрам. Однако эксперт не закрывает глаза на угрозы, которые могут возникнуть, когда ИИ станет суперагентом.
Уотсон сказала, что, несмотря на то, что технологические прорывы остаются огромными, возможно, что ИИ сам по себе может помочь преодолеть некоторые препятствия. Вот ее воображаемый сценарий того, как сверхчеловеческий ИИ может появиться в следующем году. Апрель 2024 года Крупнейшие корпорации инвестируют более 100 миллиардов долларов в новую вычислительную инфраструктуру для поддержки мощных систем искусственного интеллекта. Маск сказал, что, хотя прогресс в области искусственного интеллекта ранее ограничивался чипами, вскоре единственным ограничением станет потребность в электроэнергии. Май 2024 года "Новые модели генеративного ИИ позволяют создавать агентурные ИИ, которые могут автономно выполнять сложные планы действий, подобно агенту Смиту в "Матрице", - сказал Уотсон. Билл Гейтс описал использование ИИ-агентов в своей книге 1995 года "Дорога вперед" и теперь считает, что они окажут огромное влияние на образование и здравоохранение.
Илон Маск, Возняк и более 1 тысячи ученых призвали приостановить эксперименты с искусственным интеллектом Илон Маск, Возняк и более 1 тысячи ученых призвали приостановить эксперименты с искусственным интеллектом Илон Маск, сооснователь Apple Стив Возняк и ещё 1100 профессоров, инженеров и исследователей попросили приостановить эксперименты с искусственным интеллектом. Они боятся, что ИИ может угрожать человечеству. Более 1 100 исследователей, инженеров и предпринимателей написали открытое письмо ИИ-лабораториям с просьбой немедленно приостановить, по крайней мере, на полгода обучение систем искусственного интеллекта, более мощных, чем GPT-4.
Письмо опубликовано на сайте некоммерческой организации Future of Life Institute. Подписанты считают, что продукты с ИИ «могут представлять серьёзную угрозу обществу и человечеству».
Май 2024 года "Новые модели генеративного ИИ позволяют создавать агентурные ИИ, которые могут автономно выполнять сложные планы действий, подобно агенту Смиту в "Матрице", - сказал Уотсон. Билл Гейтс описал использование ИИ-агентов в своей книге 1995 года "Дорога вперед" и теперь считает, что они окажут огромное влияние на образование и здравоохранение. Он считает, что это станет "крупнейшей революцией в вычислительной технике с тех пор, как мы перешли от ввода команд к нажатию на значки". Июнь 2024 года Уотсон сказал: "Новые модели генеративного ИИ со встроенными в них структурирующими программами позволяют создавать агентов, способных к сложному мышлению и автономным действиям. Сентябрь 2024 Уотсон заявила, что ИИ сам по себе может найти новые способы повышения производительности вычислений, что еще больше повысит производительность ИИ. Она сказала: "Оптимизация, основанная на ИИ, повышает производительность вычислений в 100 раз на существующих аппаратных платформах. Октябрь 2024 года Уотсон сказал: "Новые достижения позволяют алгоритмам квантовых вычислений работать на обычном оборудовании, обрабатывая информацию с беспрецедентной скоростью". В настоящее время ведется глобальная квантовая гонка за разработкой квантовых компьютеров, которые могут решать важные проблемы практически в каждой отрасли, начиная от авиации и заканчивая финансовым сектором.
Квантовые компьютеры содержат "кубиты", а не "биты" из единиц и нулей, и кубиты могут быть единицами, нулями или и тем и другим одновременно. Уотсон считает, что использование квантовых вычислений на обычном оборудовании может значительно ускорить прогресс в области искусственного интеллекта.
Илон Маск: Искусственный интеллект учат врать «в интересах демократии»
Искусственный интеллект поработит человечество, коллапс через 20 лет: анализ спора Джека Ма и Илона Маска. Новые модели искусственного интеллекта станут умнее самого умного человека уже к концу 2025 года, заявил миллиардер Илон Маск. «Надо с ним как-то договариваться»: Путин об Илоне Маске и искусственном интеллекте. В этом смысле, призыв Илона Маска и других исследователей к приостановке обучения более мощных систем искусственного интеллекта может быть обоснованным, если речь идет о тестировании новых технологий на практике и возможных рисках для безопасности человека. Впервые компания Google упомянула об искусственном интеллекте около 15 лет назад, а первоначальное развёртывание продуктов началось в 2004 году.
25 лет до бессмертия? Илон Маск анонсировал технологию для загрузки сознания в интернет
В этом смысле, призыв Илона Маска и других исследователей к приостановке обучения более мощных систем искусственного интеллекта может быть обоснованным, если речь идет о тестировании новых технологий на практике и возможных рисках для безопасности человека. В своём недавнем интервью Илон Маск ответственно заявил, что ИИ может стать угрозой для общества и цивилизации, в целом. Об искусственном интеллекте, сознании и религии. Илон Маск считает, что искусственный интеллект обладает потенциалом «уничтожить человечество».
1. ИСКУССТВЕННЫЙ ИНТЕЛЛЕКТ И ЧЕЛОВЕК
- Сообщество
- Связь между Бабушкиным и Маском
- Илон Маск назвал всех людей киборгами
- Коротко о биографии
- Нейросети против человечества: возможности искусственного интеллекта уже не удивляют, а пугают
- Илон Макс считает, что ИИ с вероятностью 10–20% приведёт человечество к гибели
Neuralink Илона Маска вживила нейрочип в мозг человека: зачем он нужен и кому может помочь
Глава корпорации Tesla Илон Маск, объявил о готовности первого робота компании Optimus к выходу на рынок. Илон Маск, основатель Apple Стив Возняк и еще 1123 исследователя, инженера и предпринимателя подписали открытое письмо ИИ-лабораториям с просьбой приостановить как минимум на полгода обучение систем искусственного интеллекта, более мощных, чем GPT-4. В ходе онлайн-выступления Илон Маск объяснил запуск собственного ИИ-стартапа невозможностью приостановить глобальную технологическую гонку по разработке все более совершенных нейросетей, сообщает The Guardian. Об опасности искусственного интеллекта (ИИ). «Нужно, чтобы ИИ был широко распространен, и не было единственной системы, обладающей неким сверхинтеллектом, превосходящим все остальные в миллионы раз. Американский бизнесмен Илон Маск официально запустил компанию xAI, которая будет работать с технологиями искусственного интеллекта. С таким призывом на этой неделе выступили гуру мира высоких технологий (среди них Илон Маск и Стив Возняк), для которых уже очевидно: искусственный интеллект — это опасно, причем для всего человечества.
Илон Маск опасается, что искусственный интеллект может чересчур поумнеть
И вот — дожили. Люди, стоящие в авангарде внедрения всех этих технологий, выступили против них. Звучит как начало голливудского фильма о войне с роботами. Илон Маск, напомню, кто не в курсе, кроме прочего владеет корпорацией «Тесла». И выпускает, соответственно, беспилотные автомобили, управление которыми спроектировано на основе ИИ. Как это сочетается с сегодняшним письмом — спросит читатель. А никак!
Так президент РФ Владимир Путин ответил на вопрос американского журналиста Такера Карлсона, как скоро начнется эпоха империи цифрового разума. Он все равно будет делать то, что считает нужным. Но надо с ним как-то договориться. Надо искать какие-то способы убедить его. Мне кажется, он умный человек.
Если все пойдет по плану, мы сможем отправить людей [на Марс] в 2024 году, а на планету они прибудут в 2025 году». Таким образом, первые несколько раз корабли SpaceX будут перевозить грузы, а затем, через восемь лет, на Марс отправятся люди. Не думаю, что можно так легко взлететь с Марса на неуправляемой ракете, а затем проткнуть скафандр и долететь до космического корабля. Это не невозможно, но крайне маловероятно». Об освоении космоса «Стать видом, распространенным на множестве планет — вот чего мы хотим. Распространить нашу цивилизацию и жизнь на всю Солнечную систему и за ее пределы — вот будущее, которое восхищает и вдохновляет нас. Ради таких вещей захочется просыпаться по утрам». О Земле «Зачем нам покидать Землю? Здесь очень приятно находиться». О Gigafactory «[Gigafactory] будет по-настоящему огромной, после завершения строительства эта фабрика станет крупнейшим по занимаемой площади зданием в мире».
Открытое письмо под названием «Приостановить масштабные эксперименты с искусственным интеллектом» было опубликовано Future Of Life Institue, некоммерческой организацией, которая работает над снижением глобальных катастрофических и экзистенциальных рисков, с которыми сталкивается человечество, особенно риска, связанного с искусственным интеллектом. Письмо подписано известными высокопоставленными лицами, учеными и профессорами в области искусственного интеллекта, а также такими экспертами, как лауреат премии Тьюринга Йошуа Бенджио, профессор компьютерных наук из Беркли Стюарт Рассел, соучредитель Apple Стив Возняк и др. В письме говорится, что системы искусственного интеллекта, конкурирующего с человеком, представляют серьезную опасность для общества и человечества, и ведущие лаборатории искусственного интеллекта также признали этот потенциальный риск. Далее в нем говорится, что в недавнем развитии ИИ наблюдалась гонка за разработкой и развертыванием более мощного цифрового интеллекта, которые может быть трудно контролировать, и такие мощные системы ИИ следует разрабатывать только после того, как их положительные эффекты и риски можно будет уверенно контролировать.
Кто в группе риска?
- Илон Маск зарегистрировал новую компанию в области искусственного интеллекта | BURO.
- xAI — прямой конкурент OpenAI
- Илон Маск раскрыл, что нейросети сделают с людьми в ближайшем будущем
- 2. МАРС И ЦИВИЛИЗАЦИЯ
- Темное прошлое
- РЕАЛЬНОСТЬ ИЛИ ФАНТАСТИКА? ИЛОН МАСК ЗАПУСТИЛ Hyperloop