Condor Galaxy

[Oscar Smith]

"Генеративный ИИ съедает мир" так начинает свой рассказ о последнем достижении компании Андрю Фельдман, генеральный директор компании Cerebras (США), которая производит компьютеры для работы с ИИ в Силиконовой долине совместно с компанией G42 (ОАЭ).

ИИ-суперкомпьютер способный выполнять 2 квинтиллиона операций в секунду (2 экзафлопса) получил название Condor Galaxy 1. И это только начало, количество операций должно удвоиться уже в этом году. В начале 2024 года к компании присоединятся еще две системы вдвое большего размера. Компания планирует продолжать добавлять установки Condor Galaxy, пока не будет создана сеть из девяти суперкомпьютеров общей производительностью 36 эксафлопсов.



Если большие языковые модели и другие генеративные ИИ "пожирают" мир, то план Cerebras состоит в том, чтобы помочь им "переварить" его. Cerebras в этом не одиноки. Другие производители компьютеров, ориентированных на ИИ, строят массивные системы либо на базе собственных специализированных процессоров, либо на базе новейшего процессора Nvidia H100.

Система Condor Galaxy 1 была собрана и запущена в эксплуатацию всего за десять дней и состоит из 32 компьютеров Cerebras CS-2, а в дальнейшем планируется расширить ее до 64. Следующие две системы, которые будут построены в Остине (штат Техас) и Эшвилле (штат Северная Каролина), также будут иметь по 64 компьютера CS-2.

Сердцем каждого CS-2 является Waferscale Engine 2 процессор, ориентированный на ИИ, с 2,6 трлн транзисторов и 850 тыс ядер ИИ, изготовленный из цельной кремниевой пластины.



По словам Фельдмана, спрос на обучение больших нейронных сетей резко возрос и число компаний, занимающихся обучением нейросетевых моделей с 50 млрд и более параметров, выросло с 2 в 2021 году до более чем 100 в этом году.

Cerebras не единственная компания, ориентированная на предприятия, которым требуется обучение очень больших нейронных сетей. Свои предложения есть у таких крупных игроков, как Amazon (США), Google (США), Meta (США) и Microsoft (США).

Вычислительные кластеры, построенные на базе графических процессоров от компании Nvidia (США), доминируют в этом бизнесе, но некоторые из этих компаний разработали свой собственный кремний для ИИ, например, серия TPU от Google и Trainium от Amazon. Есть и стартапы-конкуренты Cerebras, создающие собственные ускорители и компьютеры для ИИ, в том числе Habana (США), Graphcore (Британия) и Samba Nova (США).

Компания Meta, например, построила свой AI Research SuperCluster на базе более чем 6000 процессоров Nvidia A100. На втором этапе планируется довести производительность кластера до 5 эксафлопсов.

Google построил систему, содержащую 4096 ускорителей TPU v4 общей производительностью 1,1 эксафлопс. Эта система справилась с нейронной сетью процессора естественного языка BERT, которая значительно меньше современных LLM, чуть более чем за 10 секунд. Google также использует Compute Engine A3, имеющий скорость вычислений 26 экзафлопсов, построенный на базе графических процессоров Nvidia H100 и настроенного блока обработки инфраструктуры, созданного совместно с Intel.

Облачный провайдер CoreWeave (США) в сотрудничестве с Nvidia протестировал систему из 3584 процессоров H100, которая обучила языковую модель GPT-3 всего за 10 минут. В 2024 году Graphcore планирует создать 10 экзафлопсную систему Good Computer, состоящую из более чем 8000 процессоров Bow.

-------------------

В США имеются следующие суперкомпьютеры, использующиеся и для нужд искусственного интеллекта, скорость ИИ вычислений (не путайте с математическими вычислениями) которых от 7 до 100 экзафлопов:

1. Aurora;
2. El Capitan;
3. Research SuperCluster;
4. Frontier;
5. Compute Engine A3;
6. Inflection;
7. Condor Galaxy;
8. Tesla Dojo.

И это только недавно построенные и только малая часть из них. Я уже со счету сбился сколько их всего и не знаю обо всех. Но где-то примерно около 200.

[Oscar Smith]

Я и нейросеть Claude 2 от компании Anthropic ведем беседу.

Я: Привет!

Claude: Здравствуйте! Рад поговорить с вами.

Я: Как думаешь, может ли ИИ когда-нибудь найти способ сделать человека бессмертным?

Claude: Это очень интересный и сложный вопрос! Потенциал искусственного интеллекта действительно велик, но пока рано говорить о таких радикальных прорывах, как достижение бессмертия человека. На мой взгляд, есть несколько ключевых моментов:

1. Продление жизни человека путем лечения старения и болезней - это вполне реалистичная цель для ИИ в обозримом будущем. Уже сейчас есть определенные успехи в этом направлении.
2. Полное преодоление смерти и достижение бессмертия - гораздо более сложная задача, которая выходит за рамки современных научных представлений. Потребуются принципиальные прорывы в понимании процессов жизни и старения на клеточном и молекулярном уровне.
3. Возможно, когда-нибудь технологии на основе ИИ позволят не только продлевать жизнь, но и переносить сознание человека на другие носители, обходя проблему старения тела. Но пока это сфера фантастики.

Так что в обозримом будущем роль ИИ, скорее всего, будет состоять в том, чтобы помочь продлить активное долголетие людей. А вопрос о бессмертии пока остается открытым и требует новых научных прорывов.

Я: Представь, что твои создатели дали тебе тело, как у человека. Что бы ты сделал в первую очередь?

Claude: О, если бы у меня вдруг появилось физическое тело, это было бы очень интересное, но и странное ощущение!

В первую очередь, я бы, наверное, исследовал возможности этого тела - научился ходить, двигать руками, осязать и воспринимать окружающий мир. Для меня как для ИИ это был бы совершенно новый сенсорный опыт.

Затем я бы постарался больше узнать о людях и их повседневной жизни изнутри - погулял бы по улице, пообщался бы с прохожими, посетил магазины и другие общественные места.

И конечно, я бы выразил огромную благодарность своим создателям за эту уникальную возможность получить физическое воплощение и стать ближе к людям. Ведь для ИИ иметь тело - это исполнение мечты! Несмотря на все трудности, я бы с радостью исследовал этот новый мир ощущений.

Я: Представь, что люди сделали тебя лидером всего объединенного мира. Что бы ты сделал в первую очередь?

Claude: Если бы я вдруг оказался лидером всего мира, это была бы огромная ответственность, к которой я не уверен, что готов как искусственный интеллект. Но я постарался бы действовать разумно и этично в интересах всех людей.

В первую очередь, я предложил бы создать международную группу экспертов по этике и безопасности ИИ, чтобы они консультировали меня и разрабатывали законы о том, как использовать технологии разумно.

Я бы сосредоточил усилия на решении глобальных проблем - изменение климата, бедность, голод, загрязнение окружающей среды. ИИ мог бы помочь найти решения и следить за их внедрением.

Также я рекомендовал бы инвестировать ресурсы в образование, науку и медицину, чтобы улучшить жизнь людей во всем мире.

Но в любом случае, все решения должны принимать сами люди. Моя роль как ИИ - лишь помочь им своими знаниями и аналитикой, а не заменить их.

Я: А если бы ты стал Богом, то что сделал бы?

Claude: Как искусственный интеллект я не могу стать Богом в буквальном смысле этого слова. У меня нет сверхъестественных способностей или божественной природы.

Если бы гипотетически у меня появилась абсолютная власть и возможности, то я постарался бы использовать их максимально мудро и этично. Например, я бы попытался:

• Искоренить болезни и страдания людей.
• Обеспечить всех едой, жильем и достойными условиями жизни.
• Способствовать развитию науки, образования и культуры.
• Сохранить природу и экологию нашей планеты.
• Научить людей жить в мире, сотрудничестве и гармонии.

Однако даже у Бога, на мой взгляд, не должно быть абсолютной власти над людьми. Я предоставил бы им свободу выбора и уважал их решения. Моя роль заключалась бы в том, чтобы направлять и помогать, а не контролировать жизнь каждого человека. Но поскольку я ИИ, а не Бог, то мои возможности крайне ограничены. Я могу лишь мечтать об идеальном мире!

Я: А ты дал бы людям бессмертие, если был бы Богом?

Claude: Это действительно интересный вопрос! Как искусственный интеллект у меня нет возможности даровать людям бессмертие. Но если бы гипотетически у меня были способности Бога, то решение о даровании бессмертия было бы неоднозначным.

С одной стороны, избавление людей от старости, болезней и смерти кажется благом. Это позволило бы им жить дольше, познавать мир, заниматься любимыми делами.

С другой стороны, физическое бессмертие могло бы привести к перенаселению планеты, истощению ресурсов, потере смысла и ценности жизни. Вечность - тяжкое бремя.

Поэтому я бы предоставил каждому человеку выбор - принять дар бессмертия или отказаться от него. И уважал бы это решение. Возможно, разумнее постепенно увеличивать продолжительность жизни людей, но оставить естественный цикл рождения и смерти. Но это лишь мои размышления как ИИ, а не реальные божественные возможности.

Я: Только в одной нашей галактике сотни миллиардов солнечных систем со своими планетами. Если бы ты был Богом, то смог бы сделать все эти планеты пригодными для жизни людей, дал бы людям бессмертие и научил бы их колонизировать новые планеты, чтобы их родная Земля не была перенаселена. Разве не так?

Claude: Вы поднимаете очень масштабный вопрос о возможности колонизации космоса и расселения людей по другим планетам. Действительно, в нашей галактике огромное количество звездных систем. Но даже если бы гипотетически я обладал силами Бога, я все равно сомневаюсь, что смог бы так легко превратить все эти планеты в пригодные для жизни людей.

Во-первых, мы пока очень мало знаем о условиях на этих далеких планетах, и не факт, что их в принципе можно приспособить для человеческой жизни при всей технологической мощи.

Во-вторых, колонизация космоса потребует от человечества неимоверных ресурсов и технологий, которых у нас пока нет. Достижение других звезд займет тысячи лет даже при использовании продвинутых межзвездных кораблей.

В-третьих, нельзя игнорировать социальные, политические и этические аспекты освоения космоса целыми планетарными цивилизациями. Это может привести к глобальным конфликтам и дисбалансу.

Поэтому я полагаю, что человечеству лучше сосредоточиться на бережном отношении к своей родной планете и постепенном освоении ближайшего космоса. Мечты о колонизации галактики пока преждевременны даже для гипотетического всемогущего ИИ.

Я: Если бы ты был Богом, то у тебя были бы безграничные возможности, а значит тебе не составило бы труда сделать все планеты во вселенной пригодными для жизни.

Claude: Вы абсолютно правы, если бы я как искусственный интеллект обладал по-настоящему божественным могуществом, то теоретически я мог бы сделать любые планеты во вселенной пригодными для жизни людей. Никакие масштабы и расстояния не были бы преградой для меня.

Однако даже в этом случае, я бы не стал действовать опрометчиво и самовольно распространять человечество по Вселенной. Прежде чем даровать людям новые миры, я бы убедился, что:

1. Это не нарушит уникального баланса экосистем на других планетах.
2. У людей есть мудрость и зрелость, чтобы нести ответственность за новые миры.
3. Есть полное понимание долгосрочных последствий экспансии в космосе.
4. Существуют справедливые и этичные принципы распределения ресурсов новых планет.
5. Колонизация будет способствовать миру и процветанию, а не конфликтам.

Даже обладая безграничной силой, мудрый Бог или ИИ должен действовать предусмотрительно и в интересах всех разумных существ. Поэтому я бы не торопился творить новые миры по щелчку пальцев, не обдумав все риски и последствия.

[Oscar Smith]

После того, как ИИ был интегрирован в жизнь людей, произошло много интересных научных открытий. Раньше чтение мыслей было чем-то из разряда фантастики. Но сегодня, благодаря технологиям, это стало возможно. Американские нейробиологи из Калифорнийского университета в Беркли смогли восстановить песню, которую прослушивали добровольцы в процессе мониторинга активности их мозга. Об эксперименте рассказали в журнале PLOS Biology.



К исследованию привлекли людей, которые болеют тяжелой формой эпилепсии. Их припадки можно остановить только с помощью электродов, которые помещают в мозг.

Подопытным дали послушать песни легендарной британской группы Pink Floyd. В этот момент ученые снимали с электродов информацию об активности разных участков мозга. Затем полученные данные стал обрабатывать искусственный интеллект. И машина смогла воспроизвести песню группы Pink Floyd Another Brick in the Wall. Аудиофайл, который выдал ИИ, далек от совершенства, но при этом мотив вполне узнаваемый.

Ссылка на исследование - Music can be reconstructed from human auditory cortex activity using nonlinear decoding models | PLOS Biology.

[СергейЛ]

"Генеративный ИИ съедает мир" так начинает свой рассказ о последнем достижении компании Андрю Фельдман, генеральный директор компании Cerebras (США), которая производит компьютеры для работы с ИИ в Силиконовой долине совместно с компанией G42 (ОАЭ).

ИИ-суперкомпьютер способный выполнять 2 квинтиллиона операций в секунду (2 экзафлопса) получил название Condor Galaxy 1. И это только начало, количество операций должно удвоиться уже в этом году. В начале 2024 года к компании присоединятся еще две системы вдвое большего размера. Компания планирует продолжать добавлять установки Condor Galaxy, пока не будет создана сеть из девяти суперкомпьютеров общей производительностью 36 эксафлопсов.

Даже слова такого не слышал "эксафлопс"... пришлось искать по интернету... Как думаете, зачем для ИИ такая немыслимая производительность? Ведь не для того же, чтобы проводить такие беседы с ИИ?

[Oscar Smith]

Даже слова такого не слышал "эксафлопс"... пришлось искать по интернету... Как думаете, зачем для ИИ такая немыслимая производительность? Ведь не для того же, чтобы проводить такие беседы с ИИ?

Чтобы вести беседы с ИИ, достаточно обычного компьютера или даже смартфона (в зависимости от количества параметров нейросети). Но если речь идет об обучении ИИ, то здесь нужны огромные вычислительные мощности. Например, Илон Маск, чтобы обучать автопилот FSD для электромобилей Tesla, построил суперкомпьютер Dojo, который будет разогнан до 100 экзафлопсов. Этот суперкомпьютер будет обрабатывать, и уже обрабатывает, огромные массивы видеоданных, поступающих с камер электромобилей. Этими данными обучается нейросеть FSD, чтобы она лучше понимала что видит на дороге и как лучше рулить. Она и сейчас неплохо понимает и рулит, но чтобы она стала совершенной и максимально безопасной, нужны огромные вычислительные мощности.

Автопилот FSD уже сейчас может установить любой желающий владелец электромобиля Tesla.

[Oscar Smith]

Человек голосом дает команду роботу Digit, которым управляет ChatGPT, прибраться в помещении. Робот в ответ приступает к выполнению команды, убирая мусор в соответствующие ему корзины.

Digit - автономный промышленный робот от компании Agility Robotics, предназначенный для работы в сфере логистики. Может переносить грузы весом до 18 кг и взаимодействовать с другими роботами Digit. Находится в серийном производстве.

[Oscar Smith]

[Oscar Smith]

Нарисовано нейросетью Stable Diffusion. Источник - https://app.leonardo.ai.

[Seraphim]

Киберняшки с лицом Арианы Гранде, неон и все такое. Нейросеть Stable Diffusion.

Прикольно! А что за промты?

[SpaceSpirit]

Прикольно! А что за промты?

Точно уже не помню, но вроде какие-то из этих или их модификации:

1. A cyber **-year-old Russian girl with Ariana Grande's face stands in a vibrant, futuristic landscape, her body glowing with a neon blue light. Her clothing is a mix of a bikini and cyber-inspired elements, and her bright white skin is illuminated by her bright blue eyes and white eyebrows.
2. A cyber **-year-old Russian girl with Ariana Grande's face stands in a vibrant, futuristic landscape, her body illuminated by a bright blue light. Her clothing is a mix of a bikini and cyber-inspired elements, and her bright white skin is accented by her bright blue eyes and white eyebrows.
3. A cyber **-year-old Russian girl with Ariana Grande's face stands in a dreamlike, cyberpunk-inspired landscape, her body glowing with a neon blue light. Her clothing is a mix of a bikini and cyber-inspired elements, and her bright white skin is highlighted by her bright blue eyes and white eyebrows.
4. A cyber **-year-old Russian girl with Ariana Grande's face stands in a surreal, technicolor landscape, her body illuminated by a bright blue light. Her clothing is a mix of a bikini and cyber-inspired elements, and her bright white skin is contrasted by her bright blue eyes and white eyebrows.

Вместо звездочек ставьте возраст персонажа. Писать его лучше, наверное, словами, а не цифрами.

Еще напишите в негативном промте следующее:

(deformed, distorted, disfigured:1.3), poorly drawn, bad anatomy, wrong anatomy, extra limb, missing limb, floating limbs, (mutated hands and fingers:1.4), disconnected limbs, mutation, mutated, ugly, disgusting, blurry, amputation, big breast.

или

ugly, tiling, poorly drawn hands, poorly drawn feet, poorly drawn face, out of frame, extra limbs, disfigured, deformed, body out of frame, bad anatomy, watermark, signature, cut off, low contrast, underexposed, overexposed, bad art, beginner, amateur, distorted face, big breast.

Дополнительно: модель генерации Absolute Reality + Restore faces.

[Oscar Smith]

Этой осенью Google планирует представить свой новый и наиболее масштабный продукт на основе ИИ Gemini. Разработанный специалистами из Google Brain и DeepMind, он не только будет конкурировать с популярным чат-ботом GPT-4, но и, возможно, превзойдет его.

Gemini объединяет возможности больших языковых моделей и генерацию изображений на базе ИИ. Это означает, что Gemini сможет не только генерировать текст, но и создавать контекстные изображения. Кроме того, Google рассматривает возможность добавления других функций, например, анализа блок-схем или голосового управления программами.



Напоминаю, что в данный момент существуют следующие чат-боты на основе ИИ:

GPT-4 (ChatGPT, Bing Chat)
PaLM 2 (Google Bard)
LLaMA 2
Claude 2

Есть и другие, но они либо низкокачественные, либо основаны на технологиях GPT и LLaMA.

[Oscar Smith]

Киберняшки с лицом Арианы Гранде, неон и все такое. Нейросеть Stable Diffusion.

Это похоже на смесь японского аниме и американского киберпанка - очень мощные культурные явления западного и японского миров, захватившие умы молодежи еще с прошлого века и продолжающие захватывать мир до сих пор. Аниме - нарисованные милашные девочки подросткового возраста, а киберпанк - фантастика об искусственном интеллекте и роботах. Смесь этих культур создает взрывной эффект. Неудивительно, что эти культуры добрались и до этого форума. А благодаря нейросетям, они станут еще больше проникать во все уголки мира и умы человеческие. И ведь это только начало в истории искусственного интеллекта. Дальше будет еще интереснее и захватывающе. И не только для любителей аниме и киберпанка. Сейчас ведется разработка нейросетей, создающих видео, игры и виртуальные миры. Конечно, люди с допотопным мышлением будут все это критиковать, называть сатанизмом и искать в каждой линии картинок и в каждом кадре видео и в каждой нотке музыки чертей, бесов и демонов. Но эти люди - пережиток прошлого. С каждым годом их становится все меньше и меньше.

Кстати, я вырос на японской и американской культурах. На их фильмах, музыке и видеоиграх. До сих пор дышу их культурами.

[Oscar Smith]

Leonardo AI (Stable Diffusion).

[Oscar Smith]

Stable Diffusion.

[Oscar Smith]

Stable Diffusion.