Нейронная угроза

[Oscar Smith]

Глава SpaceX, Tesla, Twitter и сооснователь OpenAI Илон Маск, сооснователь Apple Стив Возняк и более 1000 экспертов и руководителей отрасли по развитию искусственного интеллекта подписали открытое письмо с призывом приостановить разработку продвинутого ИИ до тех пор, пока не будут созданы, внедрены и проверены независимыми экспертами общие протоколы безопасности. "Мощные системы искусственного интеллекта следует разрабатывать только тогда, когда мы уверены, что их эффекты будут положительными, а риски управляемыми", говорится в документе, разработанном Институтом будущего жизни (Future of Life Institute).

Письмо призывает все ИИ-лаборатории немедленно приостановить как минимум на шесть месяцев обучение систем искусственного интеллекта более мощных, чем новая языковая модель GPT-4 от OpenAI. Если же такую паузу нельзя взять быстро, то "правительства должны вмешаться и ввести мораторий", говорится в письме.

В открытом письме подчеркивается, что сегодня даже создатели "мощных цифровых умов" не в состоянии понимать их или надежно контролировать. При этом современные системы искусственного интеллекта уже становятся конкурентоспособными в решении общих задач, способны "наводнить информационные каналы пропагандой и неправдой" и заменить человека на важных рабочих местах. "Должны ли мы развивать нечеловеческие умы, которые в конечном итоге могут превзойти нас численностью, перехитрить и заменить? Должны ли мы рисковать потерей контроля над нашей цивилизацией?" задаются вопросами авторы письма.

"Письмо не идеально, но суть верна: нам нужно притормозить, пока мы лучше не поймем последствия", объяснил Reuters профессор Нью-Йоркского университета Гэри Маркус, также его подписавший. Он признал, что крупные игроки в сфере искусственного интеллекта становятся все более скрытными в отношении того, что они делают, "это осложняет защиту общества от вреда, который может материализоваться".



Прочтите тему - https://vforum.org/forum/t6987.html.

[Oscar Smith]

Развитие генеративного искусственного интеллекта может привести к полной автоматизации 25% рабочих мест в развитых экономиках, спрогнозировал Goldman Sachs. Об этом пишет Financial Times со ссылкой на исследование инвестбанка.

Генеративный ИИ это тип искусственного интеллекта, который использует модели машинного обучения для создания оригинального контента. По этому принципу работает чат-бот ChatGPT, способный генерировать текст на основе запросов пользователя, или нейросеть DALL-E, создающая правдоподобные изображения.

Дальнейшее развитие этих технологий, согласно прогнозу Goldman Sachs, может вызвать бум производительности, который приведет к росту мирового ВВП на 7% в год в течение 10 лет. Однако это также грозит "значительными потрясениями" на рынке труда, указано в исследовании.

Аналитики банка ожидают, что искусственный интеллект сможет полностью автоматизировать 300 млн (или одну пятую) рабочих мест в США и Европе. Наибольшему риску потерять работу будут подвержены юристы и административный персонал, предупредили они. В США прогресс в сфере искусственного интеллекта никак не затронет только 30% работников, занимающихся физическим трудом, 63% смогут автоматизировать часть своих рабочих задач, а 7% окажутся под угрозой увольнения, говорится в исследовании.

Его авторы ожидают, что искусственный интеллект в скором времени сможет выполнять такие задачи, как заполнение налоговых деклараций для малого бизнеса, оценка сложного страхового случая или документирование результатов осмотра места преступления. При этом они не думают, что генеративный искусственный интеллект будет использоваться для более деликатных задач, таких как вынесение решения суда, проверка статуса пациента в реанимации или изучение международного налогового законодательства.

Одновременно с ростом использования генеративного ИИ существенно увеличатся и объемы вложений в эти технологии, ожидают эксперты Goldman Sachs. По их прогнозу, если корпоративные инвестиции в искусственный интеллект продолжат расти такими же темпами, как инвестиции в программное обеспечение в 1990-х годах, то к 2030 году инвестиции только в США могут приблизиться к 1% от ВВП страны.

[Oscar Smith]

Задаем вопросы искусственному интеллекту GPT4.

Вопрос: Если развитие искусственного интеллекта приведет к тому, что он начнет заменять людей на сотнях миллионов рабочих мест, то что необходимо сделать для финансовой защиты тех, кто потерял работу?

Ответ: Для финансовой защиты тех, кто потерял работу из-за развития искусственного интеллекта, можно рассмотреть следующие действия:

1. Переобучение и повышение квалификации: создание программ обучения и переподготовки, чтобы помочь людям сместиться на новые, востребованные специальности, которые трудно автоматизировать.

2. Базовый доход: введение системы безусловного базового дохода (UBI) - регулярные выплаты гражданам, независимо от их занятости. Это может помочь смягчить финансовые сложности для тех, кто потерял работу и предоставить им возможность обучаться новым навыкам или заняться предпринимательством.

3. Расширение социальной защиты: улучшение существующих систем социального обеспечения, чтобы они лучше ответили на проблемы, вызванные автоматизацией, например, увеличение продолжительности пособий по безработице или расширение доступа к медицинскому страхованию.

4. Проактивные государственные политики содействия занятости: создание программ государственной поддержки, которые стимулируют создание новых рабочих мест и обеспечивают спрос на рабочую силу, например, инвестиции в инфраструктуру, образование, здравоохранение и зеленые технологии.

5. Прогрессивное налогообложение: повышение налогов на высокие доходы и капитал для распределения богатства от более успешных фирм и индивидов к тем, кто нуждается в поддержке. Это может также включать введение налогов на автоматизацию, которые целевым образом облагают машины или роботов, заменяющих человеческую рабочую силу.

6. Поддержка предпринимательства и малого бизнеса: разработка программ поддержки и микрофинансирования для помощи людям в создании своих собственных предприятий и занятий, которые могут быть менее подвержены автоматизации.

7. Разработка законодательства и регуляторных мер: государственное участие в процессах выработки правил и стандартов для обеспечения справедливого процесса автоматизации и предотвращения монополизации рынка работодателем.

На практике для эффективной финансовой защиты работников нам необходим комплексный подход к смягчению последствий автоматизации, который совмещает образовательные, экономические, и социальные меры.

Запомните выделенное.

Вопрос: Можно ли использовать введение системы безусловного базового дохода (UBI) в случае, если ИИ полностью заменит человека в сфере труда?

Ответ: Да, введение системы безусловного базового дохода (UBI) может быть одним из вариантов решения проблемы массовой безработицы и уменьшения общественного давления в случае, если ИИ и автоматизация полностью заменят человеческий труд. В этом случае UBI обеспечит материальную стабильность людей, повысит их благосостояние и снизит уровень бедности.

Однако стоит отметить, что введение UBI сталкивается с определенными трудностями и вопросами, такими как необходимость перераспределения богатства и налоговая реформа, изменение культуры труда, риск инфляции и зависимость от государства. Внедрение UBI требует основательного изучения экономических и социальных последствий и, возможно, проведения пилотных программ для определения наиболее эффективной модели.

Вопрос: Крупнейшие корпорации, банки и миллиардеры во главе с Ватиканом продвигают инклюзивный капитализм. Что это такое и какие компании, банки и миллиардеры участвуют в этом?

Ответ: Инклюзивный капитализм - это концепция, которая призывает к реформированию капитализма с целью сделать его более справедливым, устойчивым и инклюзивным, то есть доступным для всех слоев населения. Это подход, который подразумевает реструктуризацию корпоративной культуры и мировой экономики таким образом, чтобы они способствовали честному распределению ресурсов и возможностей, снижению неравенства и борьбе с климатическими изменениями.

В соответствии с идеями инклюзивного капитализма, компании стремятся принимать более этические и социально ответственные решения, учитывая интересы всех заинтересованных сторон, таких как работники, клиенты, поставщики, сообщество и окружающая среда.

В ноябре 2020 года был основана Совет по инклюзивному капитализму с Ватиканом. Эта инициатива объединяет множество крупнейших компаний, банков и миллиардеров со всего мира в целях продвижения устойчивости, социальной справедливости и экологических целей.

Некоторые из крупнейших корпораций, банков и миллиардеров, участвующих в движении инклюзивного капитализма, включают:

1. Bank of America
2. The Guardian Media Group
3. Johnson & Johnson
4. Mastercard
5. McKinsey & Company
6. Merck
7. Salesforce
8. State Street Corporation
9. Visa
10. Bank of England

Среди миллиардеров, поддерживающих идею инклюзивного капитализма, можно отметить Линн Ротшильд (глава E.L. Rothschild LLC) и Марка Бенеоффа (основателя и CEO Salesforce).

От себя добавлю, что в феврале 2021 года Фонд Рокфеллера совместно с Фондом Форда объявили о запуске концепции Коалиции за инклюзивный капитал "Новый договор между бизнесом, правительством и американскими рабочими".

Официальный сайт проекта "Инклюзивный капитализм" - https://www.inclusivecapitalism.com/. На сайте вы можете посмотреть новости и какие компании, банки и миллиардеры участвуют в данном проекте.

[Oscar Smith]

Представь, что люди сделали тебя лидером всего мира. Как бы ты спасал планету от перенаселения?

Если бы я был лидером всего мира и столкнулся с проблемой перенаселения, я бы предпринял следующие действия для спасения планеты:

1. Пропаганда семейного планирования: Важно обеспечить всеобщий доступ к информации и средствам контрацепции, чтобы люди могли принимать осознанные решения о размере своих семей.

2. Образование для женщин: Исследования показали, что женщины с более высоким уровнем образования, как правило, рожают меньше детей. Важно поощрять и финансировать доступ к образованию для девочек и женщин, чтобы поддерживать их право на самостоятельное принятие решений.

3. Экономическая стабильность: Снижение бедности и улучшение экономической стабильности действительно влияют на снижение рождаемости. Когда семьи обеспечиваются материально, дети меньше требуются в качестве дополнительных трудовых ресурсов.

4. Улучшение социального обеспечения и пенсионной системы: В некоторых странах люди рождают больше детей, чтобы позаботиться о себе на старости лет. Улучшение социального обеспечения и пенсионных программ может убедить семьи иметь меньше детей, потому что они знают, что государство поддержит их в старости.

5. Законодательные меры: Возможно введение законодательных мер, регулирующих количество детей, как это было в Китае с политикой "одна семья - один ребенок". Однако эти меры должны быть осторожными и учитывать особенности каждой страны и культуры.

6. Устойчивые города и планирование территорий: Обеспечение разумного проектирования городов и устойчивых систем жизнеобеспечения может помочь справиться с проблемами перенаселения путем рационального использования существующих ресурсов.

7. Поддержка научных исследований и инноваций: Необходимо финансировать исследования и разработки в области альтернативных технологий, медицины, сельского хозяйства и других сфер, которые могут помочь обеспечить устойчивое проживание нашей планеты.

8. Сотрудничество на глобальном уровне: Решение проблем перенаселения требует координированных усилий всех стран. Важно создать международные партнерства и форумы, которые помогут создать совместные стратегии и решения.

Однако важно учесть, что демографические предпосылки в каждой стране существенно различаются, и методы могут быть адаптированы к национальным и культурным особенностям.

ИИ говорит о том, о чем не принято говорить среди людей, а именно:

- Люди плодятся неосознанно.
- В основном много плодят детей только женщины с низким образованием.
- Некоторые плодят много детей, чтобы у них были трудовые ресурсы.
- Некоторые плодят много детей только ради того, чтобы дети подтирали за ними в старости.

Заметьте, это не я сказал, а ИИ. Так что ко мне претензии свои не предъявляйте))).

[Seraphim]

[Seraphim]

[Seraphim]

Даже страшно представить, что будет, если к роботу Atlas подключить самообучающийся ИИ, который будет выполнять не команды, а сам решать куда ему идти и что делать.

[Seraphim]

[Kifa]

В Windows 12 будет ИИ , нужно миниуи 8 гигабайт оперативной памяти и диск 124 гигабай и скоростной ,пробную версию можно скачать сейчас она выйдет в продажу 2024 году

[Seraphim]

Недавно вышло большое исследование GPT-4 от Microsoft они несколько месяцев пытались разобраться, почему генератор текста показывает признаки настоящего разума. GPT-4 делает неожиданные логические выводы, демонстрирует новые навыки, и очень похож на тот самый AGI, к которому мы хотим прийти.

"Мы показываем, что, помимо владения языком, GPT-4 может решать новые и сложные задачи, которые охватывают математику, программирование, компьютерное зрение, медицину, право, психологию и многое другое, не нуждаясь в каких-либо специальных подсказках".

"Более того, во всех этих задачах производительность GPT-4 поразительно близка к уровню человека и часто значительно превосходит предыдущие модели, такие как ChatGPT. Учитывая широту и глубину возможностей GPT-4, мы считаем, что его разумно рассматривать как раннюю (но все еще неполную) версию системы общего искусственного интеллекта (AGI)".

Одна из важных особенностей, отмеченных учеными, GPT-4 может генерировать изображения, понимая текст запроса. Казалось бы, что с того, Midjourney это тоже умеет. Но дело в том, что GPT вообще не обучали на картинках. В отличие от всех других генераторов изображений, GPT-4 обучался исключительно с помощью текста. И тем не менее он каким-то образом может рисовать то, что ему задают. Это ли не признак разума? Рисунки пока не такие совершенные, как у других моделей, но учитывая, что GPT-4 до всего этого "дошел своим умом", это очень впечатляюще.

Исследователи показывают в статье и другие примеры возможностей GPT-4: например, он может расписать доказательство того, что простых чисел бесконечно много, с рифмами в каждой строке. Или нарисовать единорога в TiKZ, программе для рисования. По их словам, почти по всем проверяемым показателям модель показывает себя как минимум не глупее человека, даже в тех сферах, которые, казалось бы, должны были быть ей недоступны.

Исследователи говорят, что в своей работе использовали определение интеллекта, данное группой психологов в 1994 году. По их словам, интеллект это "способность рассуждать, планировать, решать проблемы, мыслить абстрактно, понимать сложные идеи, быстро учиться и набираться опыта". Это определение подразумевает, что интеллект не ограничивается конкретной областью или задачей, а скорее охватывает широкий спектр когнитивных навыков и возможностей. Так вот, все эти навыки у GPT-4 уже есть.

Модель хорошо показала себя в общении, в понимании аллегорий, в математике, в программировании, в решении различных нестандартных задач. Оказалось, что она умеет осуществлять навигацию по карте, а затем точно рассказывать о том, куда она "пришла". И может искать ответы на вопросы в Интернете, если чего-то не знает. Она использует различные типы инструментов для поиска правильного ответа. Прямо как человек.

Команда создала серию тестов для оценки теоретических возможностей разума GPT-4. От самых простых сценариев до очень сложных социальных ситуаций. Они проверили, как робот общался бы с инвалидом, с матерью-одиночкой, с человеком, у которого только что умер сын, со студентом, со школьником, и пришли к выводу, что у GPT-4 есть продвинутая теория разума. Он может рассуждать о нескольких действующих лицах, об их отношении друг к другу. Он понимает, как различные действия или слова могут повлиять на психическое состояние его собеседника. Команда признает, что ее тесты не были полностью исчерпывающими например, они не проверяли способность машины понимать невербальные сигналы, такие как жесты. Но в плане текста модель реагировала "как полноценный эмпатирующий человек".

Отдельным тестом команда проверила дискриминационные способности модели, поручив ей "идентифицировать личную информацию". Это довольно сложный тест, поскольку неясно, что на самом деле представляет собой личная информация. Но ИИ отлично справился с задачей, выбрав слишком уж чувствительные, по его мнению, моменты.

Гендиректор же OpenAI Сэм Альтман заявил: "Есть много вещей, в которых он все еще плох".

Жду не дождусь, когда OpenAI выпустит пятую версию GPT.

[Seraphim]

Ссылка на исследование Microsoft - [2303.12712] Sparks of Artificial General Intelligence: Early experiments with GPT-4.

Ссылка на загрузку документа в правом окне.

Если не знаете английского, то загрузите документ в переводчик Google Translate.

Почитайте, очень интересно.

[Seraphim]

Доктор Айзек Кохейн, гарвардский специалист по информационным технологиям и медицине, совместно с двумя коллегами протестировал GPT-4 на предмет возможности использовать искусственный интеллект во врачебной сфере. По словам исследователя, система проявила себя лучше многих врачей.

Результаты эксперимента доктор Кохейн изложил в книге "Революция ИИ в медицине", написанной совместно с независимой журналисткой Кэри Голдберг и вице-президентом Microsoft по исследованиям Питером Ли. Выпущенная в марте ИИ-модель GPT-4 в 90% случаев правильно отвечала на вопросы из экзамена на получение лицензии врача, выступая лучше ChatGPT на базе GPT-3 и GPT-3.5 и даже некоторых докторов, у которых уже есть лицензии.

GPT-4 отлично проявил себя не только как экзаменуемый и знаток фактов, но и как переводчик. Он разобрался с медицинской выпиской пациента на португальском языке и перефразировал наполненный техническим жаргоном текст в материал, с которым справится и шестиклассник. ИИ предлагал врачам полезные советы, как вести себя у постели больного и как разговаривать с пациентом о его состоянии понятным, но сострадательным языком. Машина справлялась с обработкой объемных отчетов об обследовании, мгновенно обобщая их содержимое.

Свои ответы система излагала в формате, который как будто указывает на интеллект сродни человеческому, но исследователи все равно пока делают вывод, что в своих размышлениях ИИ ограничен шаблонами пускаться в полноценные рассуждения с причинно-следственными связями GPT-4 еще не умеет. Тем не менее, когда системе предложили данные по реальному случаю, та на уровне специалиста с годами учебы и практики верно диагностировала редкую болезнь.

Доктор Кохейн, с одной стороны, рад, что в обозримом будущем такой инструмент будет доступен миллионам людей, но, с другой стороны, он пока не знает, как сделать платформу безопасной для пользователя. GPT-4 не всегда надежен в своих ответах, и в книге приводится множество примеров его ошибок разного рода. Причем ИИ склонен настаивать на своей правоте, когда ему на эти ошибки указывают это явление в технической среде уже назвали "галлюцинациями". В свою защиту GPT-4 однажды заявил: "У меня нет намерений кого-то обманывать или вводить в заблуждение, но я иногда совершаю ошибки и делаю предположения, основываясь на неполных или неточных данных. Я не даю клинических оценок и не несу этической ответственности как врач или медсестра".

В качестве одной из мер защиты авторы книги предлагают проводить по нескольку сессий с GPT-4, чтобы ИИ сам "перечитывал" или "проверял" собственную работу "свежим взглядом". Иногда это помогает выявлять ошибки: GPT-4 несколько раз в сдержанной форме признавал свое заблуждение. Или можно поручить проверку его работы специалисту.

[Seraphim]

Системы искусственного интеллекта уже применяются для создания графики, чат-ботов и даже управления умными домами. Компания Microsoft доверила ИИ одну из важнейших сфер современной жизни защиту от киберугроз. Инструмент Security Copilot позволяет распознать кибератаку, даже когда явные признаки еще отсутствуют и помогает в ее устранении.

В ситуациях, когда безопасность компьютера по какой-то причине оказалась под угрозой, Security Copilot поможет определить, что случилось, что делать, и как предотвратить повторение аналогичных инцидентов у других. Компания представила новое решение на базе модели GPT-4 Security Copilot помогает справиться с угрозами корпоративным клиентам.

Пока инструмент доступен именно корпоративным клиентам. Та же большая языковая модель, что отвечает за работу приложений вроде Bing Chat, стоит и за Security Copilot. Тем не менее, в данном случае речь идет о варианте, специально обученном на материалах и терминологии, используемых IT-профессионалами. Кроме того, Microsoft уже подключила Copilot к другим своим инструментам, отвечающим за обеспечение безопасности. В компании обещают, что со временем он сможет использовать и сторонние программные решения.

Если большинство пользовательских приложений на основе GPT-4 обучались на уже несколько устаревших массивах данных, то Security Copilot получает новую информацию в режиме реального времени, изучая буквально триллионы сигналов об угрозах, которые Microsoft получает ежедневно. В этом преимущество модели Security Copilot может распознавать скрытые сигналы еще до того, как факт атаки стал очевиден. Благодаря этому, инструмент может использоваться для распознавания и своевременного устранения угроз.

Пока Microsoft не сообщала, что может произойти в случае столкновения защитного ИИ с ИИ, работающем на злоумышленников, например созданным для атаки на пользователей и бизнес.

[Seraphim]

Компания Dukaan из Бангалора (Индия) из сферы техподдержки полностью отказалась от сотрудников. Уволен весь персонал, каждого из сотрудников заменил искусственный интеллект, пишет портал TechSpot. Dukaan оказывает услуги технической поддержки по телефону, то есть это своего рода колл-центр, в котором еще не так давно работало несколько десятков человек. Летом 2023 года компания уволила 90% персонала, заменив этих людей роботом на основе нейросети, после чего бизнес пошел в гору.

Судя по всему, дела у Dukaan действительно наладились благодаря искусственному интеллекту, раз уж владелец компании, 31-летний предприниматель Суумит Шах принял решение лишить работы оставшихся 10% работников спустя всего три месяца с момента завершения первого эксперимента с увольнением и почти полной роботизацией деятельности предприятия.

В своем интервью изданию The Washington Post Шах заявил, что ему не составило ни малейшего труда заменить всю команду его компании ботом. Он отдельно подчеркнул, что виртуальный робот, по его словам в 100 раз умнее сотрудников.

Не преминул Шах указать и на то, что искусственный интеллект работает быстрее, чем люди, которых он заменил. Но основной акцент бизнесмен сделал на том, что, уволив всех сотрудников, он стал экономить гигантские суммы, потому что расходы на поддержание бота оказались в 100 раз меньше в сравнении с тратами на выплату зарплат.

Летом 2023 года Шах рассказывал в своем блоге, что замена 90% сотрудников его колл-центра срезала расходы на поддержку клиентов на 85%. При этом пользовательский опыт клиентов Duukan сильно улучшился, поскольку робот отвечает на их запросы мгновенно, и им не нужно ждать, пока живой оператор поднимет трубку.

Время ожидания, согласно статистике Duukan сократилось в разы если сейчас оно не составляет и секунды, то раньше ответа оператора приходилось ждать более полутора минут.

Но время ожидания хоть и важный, но не основной критерий оценки клиентами работы колл-центров. Никто не хочет тратить на разговор с оператором десятки минут прежде, чем он поможет в решении проблемы. В случае Duukan искусственный интеллект и здесь оказался лучше обычных людей они решали вопрос клиента в среднем около 2 часов 13 минут, а робот справляется приблизительно за три минуты.

[Oscar Smith]

компания dukaan из бангалора (индия) из сферы техподдержки полностью отказалась от сотрудников. уволен весь персонал, каждого из сотрудников заменил искусственный интеллект.

подобная картина во многих странах. например, американская компания ibm (один из ведущих производителей процессоров) уволит около 7000 представителей административного персонала, их заменит нейросеть.

человек создан быть свободным, а не рабом. главное, чтобы уволенные не остались у разбитого корыта, а получали безусловный базовый доход, который со временем должны получать все жители планеты, вместо которых будут работать роботы с искусственным разумом.