GPT-4 Turbo

[Oscar Smith]

Компания OpenaAI презентовала новую версию языковой модели, получившая название GPT-4 Turbo.



Что нового:

- Обновлена база знаний до апреля 2023 года;
- Увеличено контекстное окно до 128 000 токенов - это значит, что нейросеть будет понимать ваши запросы длиной примерно в 300 страниц;
- Увеличена производительность модели, что снизило стоимость входных запросов в API до 0,01$, а выходных до 0,03$.

А так же:

Обновления вызова функций

Опция позволяет описывать функции приложения или внешних API для моделей, а также выводить объекты JSON, содержащие аргументы для вызова этих функций. В одном сообщении можно вызывать несколько функций, например "открыть окно автомобиля и выключить кондиционер". Кроме того, GPT-4 Turbo с большей вероятностью будет возвращать правильные параметры функции.

Улучшено следование инструкциям и режим JSON

GPT-4 Turbo работает лучше при выполнении задач, требующих тщательного следования инструкциям, таких как создание определенных форматов (например, "всегда отвечать в XML"). Она также поддерживает новый режим JSON. Параметр API response_format позволяет модели ограничить вывод для создания синтаксически правильного объекта JSON. Режим полезен для разработчиков, генерирующих JSON в API Chat Completions вне вызова функций.

Воспроизводимые выходные данные и логарифмические вероятности

Новый начальный параметр обеспечивает воспроизводимые результаты, заставляя модель большую часть времени возвращать согласованные завершения. Эта бета-функция полезна при воспроизведении запросов на отладку и написании более полных модульных тестов. В ближайшие несколько недель также запустят функцию для возврата вероятностей журнала для наиболее вероятных выходных токенов, сгенерированных GPT-4 Turbo и GPT-3.5 Turbo.

API-интерфейс Assistants, поиск и интерпретатор кода

API Assistants позволит разработчикам создавать ИИ-агенты в собственных приложениях. Они будут следовать конкретным инструкциям. API-интерфейс Assistants предоставляет новые возможности, такие как интерпретатор и извлечение кода, а также вызов функций. Одним из изменений, внесенных этим API, являются постоянные и бесконечно длинные потоки, которые позволяют разработчикам передавать управление состоянием потока OpenAI и обходить ограничения контекстного окна, добавляя новое сообщение в существующую цепочку.

Помощники также имеют доступ к вызову новых инструментов:

- Интерпретатор кода пишет и запускает код Python в изолированной среде выполнения, может создавать графики и диаграммы, а также обрабатывать файлы с разнообразными данными и форматированием;
- Поиск дополняет помощника данными домена, информацией о продукте или документами пользователей;
- Вызов функций.

Данные и файлы, передаваемые в API OpenAI, не будут использоваться для обучения моделей, и разработчики могут удалить их, когда сочтут нужным. API Assistants находится в стадии бета-тестирования и доступен всем разработчикам.

Новые возможности в API

GPT-4 Turbo способен принимать изображения в качестве входных данных в API Chat Completions, чтобы создавать подписи, анализировать изображения и читать документы с рисунками. Стоимость опции будет зависеть от размера входного изображения. Например, передача изображения размером 1080 на 1080 пикселей в GPT-4 Turbo стоит $0,00765.

Также разработчики могут интегрировать DALL·E 3 непосредственно в свои приложения и продукты через API изображений. Он предлагает встроенную модерацию.

Наконец, разработчики могут генерировать речь высокого качества из текста с помощью API преобразования текста в речь. Новая TTS предлагает на выбор шесть предустановленных голосов и два варианта модели: tts-1 и tts-1-hd. tts-1 оптимизирован для случаев использования в реальном времени, а tts-1-hd оптимизирован по качеству. Цены начинаются от $0,015 за ввод 1000 символов.

Экспериментальный доступ к тонкой настройке GPT-4

OpenAI выпустила экспериментальную программу доступа для тонкой настройки GPT-4 Custom Models, предоставляя отдельным организациям возможность работать со специальной группой исследователей компании для обучения модели в конкретной области. Такие модели не будут предоставляться или передаваться другим клиентам или использоваться для обучения.

Ранее сообщалось, что OpenAI предложит подписчикам ChatGPT функцию конструктора собственного чат-бота с функциями, которые поддерживаются GPT-4, в том числе просмотра веб-страниц и анализа данных.

Обновление GPT-3.5 Turbo

Новая версия GPT-3.5 Turbo по умолчанию поддерживает контекстное окно в 16 000 токенов, улучшенное следование инструкциям, режим JSON и параллельный вызов функций. Приложения, использующие имя gpt-3.5-turbo, будут автоматически обновлены до новой модели 11 декабря. Доступ к более старым моделям будет по-прежнему возможен после передачи gpt-3.5-turbo-0613 в API до 13 июня 2024 года.

--------------

Напоминаю, что ранее ChatGPT получил доступ в интернет, возможность устанавливать плагины, возможность рисовать изображения с помощью нейросети DALL-E 3 и ряд других улучшений.

Модель GPT-4 Turbo доступна в ChatGPT по подписке Plus (для дома) или Enterprise (для бизнеса).

[SpaceSpirit]

Тем временем ИИ продолжает захватывать мир, вытесняя человека. На этот раз, но не в первый раз, новость пришла из научного мира.

Система искусственного интеллекта смогла открыть сверхновую без участия человека. Она самостоятельно провела поиск, обнаружила, подтвердила и классифицировала космический объект, а также выпустила отчет. Звезда получила название SN2023tyk, сообщается на сайте Северо-Западного университета в Иллинойсе (США).

На базе этого учебного заведения работала международная команда ученых, разработавших Bright Transient Survey Bot (BTSbot) новый инструмент искусственного интеллекта. Они использовали более 1,4 млн изображений из почти 16 тыс. источников для обучения алгоритму ИИ.

"В конце концов, изъятие людей из цикла дает больше времени исследовательской группе для анализа своих наблюдений и разработки новых гипотез, чтобы объяснить происхождение наблюдаемых космических взрывов", - сказал ведущий исследователь и астроном Адам Миллер.

Новая система автоматизирует поиск новых сверхновых в ночном небе, эффективно исключая людей из этого процесса. Это не только ускоряет процесс анализа и классификации новых кандидатов в сверхновые, но и позволяет избежать человеческих ошибок.

По мнению ученых, это также поможет лучше понять жизненные циклы сверхновых и происхождение элементов, из которых они созданы.

Звезду SN2023tyk BTSbot обнаружил в данных роботизированной камеры в Калифорнии (ZTF), каждые два дня сканирующей северное небо. Астрономы отмечают, что несмотря на то, что такие объекты яркие, их довольно сложно заметить. Традиционные методы обнаружения полагаются на то, что астрономы визуально проверяют большие объемы данных с роботизированных телескопов, постоянно сканирующих ночное небо в поисках новых источников света.

BTSbot автоматически обратился к другому роботизированному прибору под названием Spectral Energy Distribution Machine (SEDM) для проведения широкого наблюдения потенциальной сверхновой, чтобы собрать его спектр. Получив его, SEDM направил его в SNIascore Калифорнийского технологического института для классификации сверхновой.

"ZTF работал в течение последних 6 лет, и за это время я и другие ученые потратили более 2 тысяч часов, визуально проверяя кандидатов в звезды и определяя, какие наблюдать с помощью спектроскопии. Добавление BTSbot к нашему рабочему процессу избавит нас от необходимости тратить столько времени на проверку", - говорит астроном Кристофер Фремлинг из Калифорнийского технологического института.



Снимок, на котором искусственный интеллект нашел сверхновую.

Источник: First supernova detected, confirmed, classified and shared by AI - Northwestern Now.

[SpaceSpirit]

ИИ-чатбот ChatGPT, разработанный OpenAI, преодолел рубеж в 100 млн активных пользователей в неделю. Об этом сообщил генеральный директор компании Сэм Альтман на первой конференции разработчиков в Сан-Франциско.

На мероприятии, прошедшем в понедельник, Альтман подчеркнул значительный рост популярности ChatGPT. Сервис, запущенный около года назад, быстро завоевал внимание аудитории, достигнув 100 млн активных пользователей в месяц уже через 2 месяца после запуска, побив рекорды роста популярности. Теперь же эта цифра соответствует еженедельной активности сервиса. Кроме того, более 2 млн разработчиков используют платформу для своих проектов, включая представителей более чем 92 % компаний из списка Fortune 500.

[SpaceSpirit]

Ученые из США и Австралии создали нейроморфный процессор из множества серебряных нанонитей. Тысячи нанопроводков уложили друг на друга в случайном порядке, и весь этот хаос поместили на группу обычных входных и выходных контактов. Все вместе превратилось в нейроморфную сеть, которую удалось научить распознавать рукописные цифры с невероятной точностью.

В процессе подачи входных сигналов на пересечениях тысяч нитей возникли сотни тысяч контактов. В этих контактах стали протекать реакции электрохимической гальванизации и возникло что-то вроде памяти. Для обучения "мозга" ученые воспользовались базой MNIST, которая содержит множество вариантов рукописного написания цифр. Каждое прохождение входных данных сопровождалось множеством переходных процессов в клубке нанонитей.

После обучения система стала распознавать рукописные цифры с точностью 93,4 %, о чем рассказано в свежей статье в журнале Nature Communications. Такой искусственный мозг не обладает памятью для более сложной обработки результата. Он работает в режиме онлайн, передавая на выход распознанную информацию, что для ряда приложений будет достаточно. Преимущества решения очевидны оно копеечное в отличие от ускорителей ИИ баснословной стоимости. То же самое касается потребления энергии для решения прикладной задачи. "Мозг" из нанонитей будет потреблять крайне мало.

Эта разработка пока еще сырая, но потенциал ее может быть огромным с учетом простоты изготовления и заявленных возможностей.

Источник: https://www.nature.com/articles/s41467-023-42470-5.

[Oscar Smith]

Ученые из США и Австралии создали нейроморфный процессор из множества серебряных нанонитей. Тысячи нанопроводков уложили друг на друга в случайном порядке, и весь этот хаос поместили на группу обычных входных и выходных контактов. Все вместе превратилось в нейроморфную сеть, которую удалось научить распознавать рукописные цифры с невероятной точностью.

Мысль - это хаос импульсных токов. И чем больше этих токов, тем больше разум. Электрический хаос порождает мыслящий порядок. Носителем же этого хаоса может выступать все, что угодно, даже серебряные нити, а не только нейроны.

Но без самосознания мыслящее существо то же, что и компьютер, который служит вам. Так что же такое самосознание?

[SpaceSpirit]

Мысль - это хаос импульсных токов. И чем больше этих токов, тем больше разум. Электрический хаос порождает мыслящий порядок. Носителем же этого хаоса может выступать все, что угодно, даже серебряные нити, а не только нейроны.

Но без самосознания мыслящее существо то же, что и компьютер, который служит вам. Так что же такое самосознание?

Без понятия, что такое самосознание.

Мысль - импульсные токи. А память что такое? Она ведь не в виде импульсов, а постоянная.

[Oscar Smith]

Без понятия, что такое самосознание.

Мысль - импульсные токи. А память что такое? Она ведь не в виде импульсов, а постоянная.

Памятью может быть все, что угодно. Когда электрический хаос вашего мозга порождает идею, но вы не можете ее запомнить, то записываете ее на бумаге чернилами. Слияние двух веществ - бумаги и чернила - есть память, выстроенная в определенном порядке (текст на бумаге), порожденным хаосом вашего разума. Память может быть и в виде электрического заряда, например, как в оперативной памяти компьютера. Как только электрический заряд в ячейке памяти прекращает существование, то вместе с ним исчезает и память. Памятью может быть и образование новых нейронных связей, через которые протекают электрические импульсы, когда вы что-то хотите вспомнить. По тому же принципу работает память искусственного интеллекта. Его знания сформированы в виде нейронных связей. Когда ИИ нужно что-то вспомнить, он обращается к этим связям.

Ну а природа самосознания еще проще, чем память и мысль.

Память - метка в виде вещества или электрического заряда.
Мысль - электрические импульсы.
Самосознание - ?

Это совсем просто. Ответ рядом.

Человечество медленно движется к созданию искусственного самосознания. Сначала человек познал природу памяти, научившись рисовать и писать. Затем человек познал природу мысли, создав процессор, а теперь и нейросеть. Осталось совсем немного и человек создаст свой образ и подобие, а так же научится перемещать свое самосознание в другие искусственные тела.

[SpaceSpirit]

Самосознание - ?

Это совсем просто. Ответ рядом.

Ответ вертится в голове, но никак не могу его поймать. Я бы сказал, что это дух, т.е. настрой для электрических импульсов на определенную работу, но могу ошибаться. Но какова природа настроя?

[Oscar Smith]

Ответ вертится в голове, но никак не могу его поймать. Я бы сказал, что это дух, т.е. настрой для электрических импульсов на определенную работу, но могу ошибаться. Но какова природа настроя?

Дух, если говорить о настрое - это, например, способность нейросетей создавать обходные нейронные пути для корректировки общей работы нейросети. Это как бы восстание против себя самого. Мозг человека с заводскими настройками боится воевать, но если в него "вселяется" боевой дух, то мозг создает обходные пути в своей нейросети, чтобы идти в бой вопреки страху, который стимулирует возникновение электрических импульсов, заставляющие тело бежать с поля боя.

Нет, настрой не является самосознанием. Древние люди словами "дух" и "демон" называли то, что сейчас называют настроем, психическими расстройствами, настроением общества и т.д. Люди, живущие по духу, живут по настройкам, которые вложили в них религиозные лидеры, окружение или обстоятельства. Даже музыка имеет в себе духа, который настраивает мозг человека. В мире несчетное количество духов. Даже у каждой страны есть свой дух жизни, который ощущается, когда вы приезжаете в эту страну или знакомитесь с ее культурой или смотрите фильмы, снятые, например, в Голливуде. Классный дух в Голливуде, не правда ли? Это дух США, который знаком каждому человеку уже с детства.

Кто-то сражается не против плоти и крови, но против духов злобы в поднебесной. Духи злобы в поднебесной - это психические состояния народов, озлобленных друг на друга, это - психические состояния народов, восставших против Бога своей злой жизнью.

А есть дух любви - это самый прекрасный и могущественный дух. Он над всеми духами. Он то, что сияет на вершине духовной горы. Любовь способна менять реальность так, как ни один другой дух. Любовь может творить то, что не может ни один другой дух. Человек, в котором живет истинная любовь к друзьям и врагам, не просто отдаст все свое имение во имя их светлого будущего, но и жизнь свою отдаст.

Короче говоря, дух - это настрой, психическое состояние человека или общества, но не самосознание.

[SpaceSpirit]

Нашел одно интересное исследование на тему природы сознания. Хотя, сознание и самосознание не совсем одно и то же, но сейчас ученые вроде как объединили эти два понятия.

Новое исследование позволяет предположить, что сознание может быть следствием эффекта энтропии физического процесса, в результате которого беспорядок в любой системе может только увеличиваться, и с помощью которого мозг максимизирует обмен информацией. Этот вывод был сделан на основе анализа мозговой активности пациентов с эпилепсией и без нее, показавшего, что нормальные (или осознанные) состояния бодрствования связаны с максимальными значениями энтропии.

В термодинамике энтропия это неизбежный переход системы из упорядоченного состояния в неупорядоченное. Величина энтропии это уровень дезорганизации данной системы. Физики предполагают, что после Большого взрыва Вселенная постепенно перешла из состояния с низкой энтропией в состояние с высокой энтропией и что, как и время, энтропия в системе может только возрастать. Нейробиологи, в свою очередь, считают, что этот принцип можно перенести на организацию связей между нашими нейронами.

Вопрос в том, какой тип организации нейронов лежит в основе синхронизации, наблюдаемой в нормальных и ненормальных состояниях бодрствования. Этим вопросом и занялись исследователи из Университета Торонто и Университета Париж Декарт. "Мы стремились определить глобальные характеристики организации мозга, оптимальные для сенсорной обработки информации и способные определять возникновение сознания", поясняют они в своем исследовании, опубликованном в журнале Physical Review E.

Наблюдения за деятельностью мозга у человека показали, что она подвержена значительным колебаниям на уровне клеточных взаимодействий. Считается, что эта изменчивость лежит в основе широкого спектра состояний, включая сознание. С другой стороны, предыдущие работы по изучению работы мозга показали, что состояние сознания не обязательно связано с высокой степенью синхронизации между нейронами, а скорее со средним уровнем. Ученые в новом исследовании выдвинули гипотезу о том, что в этом состоянии максимальна не связность нейронов, а количество конфигураций, при которых может быть достигнута определенная степень связности.

В рамках своего анализа ученые использовали статистическую механику, применив ее к моделированию нейронных сетей. Этот метод позволяет рассчитать сложные термодинамические свойства. К таким свойствам относится то, как электрическая активность одного набора нейронов колеблется синхронно с активностью другого набора. Такая оценка позволяет точно определить, как связаны между собой клетки мозга.

По мнению исследователей, существует множество способов организации синаптических связей в зависимости от размера набора нейронов. Для проверки гипотезы были собраны данные об эмиссии электрических и магнитных полей у 9 человек. Среди них 7 человек страдали эпилепсией. Во-первых, оценивались и сравнивались паттерны связности, когда одни добровольцы спали, а другие бодрствовали. Во-вторых, были проанализированы связи 5 пациентов с эпилепсией, как во время приступов, так и в обычном бодрствующем состоянии. Затем эти параметры были объединены для расчета уровня энтропии мозга. Результат оказался одинаковым во всех случаях: в состоянии сознания мозг обладает более высокой энтропией.

По мнению исследователей, максимизируя энтропию, мозг оптимизирует обмен информацией между нейронами. Это позволяет нам оптимально воспринимать окружающую среду и взаимодействовать с ней. Что касается сознания, то, по их мнению, оно может быть просто возникающей характеристикой, являющейся следствием энтропии. Однако эти выводы пока носят весьма спекулятивный характер из-за недостатков исследования, таких как небольшое число участников. По мнению ведущего автора исследования Рамона Гевара Эрра из Парижского университета Декарта, термин "энтропия" в данном контексте вообще следует употреблять с осторожностью.

Для реального подтверждения полученных результатов необходимы новые эксперименты на более крупной выборке. Другие термодинамические характеристики можно оценить с помощью магнитно-резонансной томографии, которая позволяет измерить оксигенацию свойство, напрямую связанное с метаболизмом и, следовательно, с выделением тепла (а значит, и с увеличением энтропии). Исследования, проводимые вне больничных условий, также были бы интересны для оценки состояний сознания, связанных с более тонкими видами когнитивного поведения. Например, можно проанализировать активность мозга людей, выполняющих определенную задачу, такую как прослушивание или воспроизведение музыки.

[SpaceSpirit]

Исследователи из Университета Лидса разработали нейросеть, которая может составить карту контура большого айсберга за 0,01 секунды.

Ранее ученые отслеживали местоположение крупных айсбергов вручную. Но в таком режиме невозможно пронаблюдать все изменения их размеров и объем талой воды, которую они выбрасывают.

По словам исследователей, гигантские айсберги играют важную роль в экосистеме Антарктики. Поэтому крайне важно отслеживать их динамику. Ручное картирование не справляется с этой задачей при наличии множества объектов.

Чтобы упростить этот процесс, исследователи разработали алгоритм U-net. Его обучили на изображениях айсбергов, полученных со спутников Copernicus Sentinel-1.

Затем алгоритм протестировали на семи айсбергах. Площадь самого маленького была примерно равна площади Берна (Швейцария), а площадь самого большого площади Гонконга.

Новая модель с точностью 99% превосходит предыдущие подходы к автоматизации. Кроме того, она в 10 000 раз быстрее человека справляется с составлением карты айсбергов.

По словам исследователей, новая нейросеть позволит легко отслеживать изменения площади сразу нескольких айсбергов. Это открывает путь к оперативному использованию технологии на практике.