LINUX.ORG.RU
ФорумTalks

Nvidia, Сэм Альтман, а вот чем по-настоящему серьезные дядьки заняты

 cerebras,


2

1

https://www.ixbt.com/news/2024/03/14/ipad-4-cerebras-wse-3.html

https://bitperfect.pe/ru/новая-эра-искусственного-интеллекта/

Читаешь новости про всю эту шумиху с ChatGPT и другими моделями, что скоро AGI и т.д., что Nvidia монополист и все такое и вдруг подобные новости:

Микросхема Cerebras, изготовленная из целиковой 300-мм пластины, содержит

Так, если у WSE-1 было 400 000 ядер, а у WSE-2 — уже 800 000 ядер, то WSE-3 предлагает 900 000 ядер. При этом количество транзисторов выросло намного существеннее: с 2,6 трлн до 4 трлн.

Объём памяти увеличился с 40 до 44 ГБ, а пропускная способность повысилась с 20 до 21 ПБ/с. Всё это обеспечивает производительность ИИ в 125 PFLOPS и способно обучать модели с 24 трлн параметров.

Это на одной микросхеме! (Хотя и чудовищных размеров - кто там шутил про самые большие в мире советские микросхемы?)

Самые продвинутые модели ChatGPT - это до 700 миллиардов параметров в лучшем случае, а скорее менее. И тут бах - 24 триллиона!

Ну и скорости тоже однако

Уже сейчас известно, что 64 установки CS-3 будут использоваться для суперкомпьютера Condor Galaxy 3, который обеспечит производительность вычислений искусственного интеллекта 8 ExaFLOPS.

(А сейчас у него в два раза меньше). 1 ExaFLOPS = 10^18 операций в секунду.

★★★★★

Последнее исправление: praseodim (всего исправлений: 1)

Вообще даже такая параноидальная мысль. а не занимается ли Сэм Альтман и некоторые другие выпуском пара ИИ в свисток. Пока толпы хомячков как тот холодец в холодильнике трясутся и хайпуют вокруг продвинутого «Т9», о действительно серьезных вещах не особо-то и слышно.

Вот например, многие ли слышали об использовании в Китае ИИ для управления их высокоскоростными железными дорогами? А между тем, такая вот новость, к примеру: https://t.me/theworldisnoteasy/1910

В Китае считают, что лидерство США в ИИ может оказаться иллюзией.
Крупнейшей индустриальной системой Китая уже год управляет ИИ.
Уже 3 года назад Китай сделал США, как бог черепаху, в трех важнейших отраслях, основанных на критических технологиях: платежные платформы, технологии связи 5-гопоколения (5G) и высокоскоростные железные дороги [2].
Согласно опубликованной SCMP вчера информации, четвертой основанной на критических технологиях отраслью, в которой Китай превзошел США, стало … промышленное использование ИИ.

В публикации корреспондента SCMP в Пекине Стивена Чена [1] рассказывается о выводах экспертов Китайской академии железнодорожных наук (CARS), опубликованных в большом академическом рецензируемом журнале China Railway Science [3].
Эти выводы можно резюмировать так.

1)  Китай вот уже год, как использует ИИ для предиктивного управления эксплуатацией своей сети высокоскоростных железных дорог. Это крупнейшая в мире высокотехнологичная  инфраструктурная система протяженностью 45 000 км.
2)  Центр ИИ-технологий в Пекине обрабатывает огромные объемы данных в режиме реального времени со всей страны и может с 95%-ной точностью предсказывать возникновение нештатных ситуациях и предупреждать о них бригады техобслуживания не позже, чем за 40 минут до их прогнозируемого возникновения.
3)  В результате таких предсказаний, за 2023 ни на одной из действующих высокоскоростных железнодорожных линий Китая не случилось ни одного инцидента, потребовавшего снижения скорости составов из-за серьезных проблем с путями, а количество мелких неисправностей путей сократилось на 80 процентов по сравнению с предыдущим годом (до ИИ).
4)  По мнению экспертов, ИИ не только может прогнозировать и выдавать предупреждения до того, как возникнут проблемы, но и обеспечивает точное и своевременное техобслуживание, что позволяет поддерживать инфраструктуру высокоскоростных железнодорожных линий в лучшем состоянии, чем при сдаче в эксплуатацию.

Этот мега=проект Китая демонстрирует разницу подходов к внедрению ИИ в США и Китае. Китайские эксперты формулируют эту разницу примерно так:
•  в США ИИ-системы учат лишь хорошо говорить в онлайне,
•  а в Китае – хорошо работать в реальном мире.
«Если США смогут превратить технологии типа ChatGPT и Sora в дающие ощутимую отдачу в реале, у них появится потенциал сохранить свою лидирующую позицию в мире. В противном случае лидерство окажется иллюзией» - добавил один из китайских экспертов.

Для справки 
1) Для обучения этой ИИ-системы были использованы 400 терабайтов необработанных данных: включая значения динамических сигналов, зафиксированных датчиками колес, записи движений кузова поезда, вибрации рельсов и метеорологические записи, колебания амплитуд тока электросети и даже записи мониторинга электромагнитного спектра). До внедрения алгоритмы ИИ прошли тщательную проверку человеком, чтобы гарантировать их безопасность
2)  Высокоскоростная железная дорога Китая является самой быстрой в мире, ее скорость составляет 350 км/ч, а в следующем году планируется увеличить ее до 400 км/ч. Ожидается, что сеть продолжит свое быстрое расширение, пока не соединит все города с населением более 500 тыс человек.

1 https://www.scmp.com/news/china/science/article/3255039/china-puts-trust-ai-maintain-largest-high-speed-rail-network-earth 
2 https://t.me/theworldisnoteasy/1246 
3 https://www.railjournal.com/tag/china-railway/ 
#Китай  #США  #Экономика  #Технологии
praseodim ★★★★★
() автор топика

скоро AGI

капец! AGI скоро, а у нас даже NGI нет!

t184256 ★★★★★
()
Ответ на: комментарий от praseodim

Где точные цитаты? Где ссылки на них? Где сравнения с США если уж говорят что там ничего не делают, только ерундой занимаются? Какой то информационный мусор.

Эту новость я видел много где.

MOPKOBKA ★★★★
()
Последнее исправление: MOPKOBKA (всего исправлений: 2)
Ответ на: комментарий от MOPKOBKA

Где точные цитаты? Где ссылки на них? Где сравнения с США если уж говорят что там ничего не делают, только ерундой занимаются? Какой то информационный мусор.

В части сравнения с США возможно и мусор, но я новость воспринял с точки зрения информации о применении ИИ для железных дорог вообще и в Китае в частности (а где-то еще применяется? Не нашел)

praseodim ★★★★★
() автор топика
Ответ на: комментарий от praseodim

В результате таких предсказаний, за 2023 ни на одной из действующих высокоскоростных железнодорожных линий Китая не случилось ни одного инцидента

Это только пока китайцы не читали Чехова :)

quickquest ★★★★★
()

Я так понял, что Cerebras планировали свои суперкомпьютеры для LLM в сфере медицины использовать. Экономия времени врача должна быть существенная.

https://venturebeat.com/ai/cerebras-breaks-ground-on-condor-galaxy-3-an-ai-supercomputer-that-can-hit-8-exaflops/

https://www.thenationalnews.com/business/future/2023/12/21/can-an-ai-large-language-model-transform-health-care/

C
()

Нейробредень будут все настойчивее использовать чтоб уловлять человеков былого и грядущего. Бред на выходе будут объяснять квантовыми флуктуациями внутри китайской комнаты... через уравнения на стене пещеры.

Однажды надмозги накопят вполне достаточно шума обратных связей, что убедительно нам обяснят, что все это — тупо наблюдение лиц в облаках, но они в этой самовозгоняющейся парейдолии, которой в нас все время кажется что «что-то есть» (в том числе что «мы есть») больше не участвуют, не звоните сюда больше.

slackwarrior ★★★★★
()
Ответ на: комментарий от praseodim

Это может чем-то напоминать электрофикацию СССР в 20-е годы прошлого века, когда на одному завету партии страна буквального в несколько лет стала передовой в это плане, но сделано было крайне несбанансивовано, когда свет было, но качество его оставляли желать лучшего, к тому же постоянно возникали разные проблемы. Я не говорю, что остальные важные вопросы в жизни, банально остались за кадром, нищета, голод не куда не делся. А в Америке тоже шло внедрение света, но там, считали «выгодну на местах» и каждый собственник здания принимал решение самостоятельно, с учетом только известной ему специфике. В результате, свет в Америке тоже появился и на много раньше, но и остальные вопросы жизни и экономики решались постепенно, на остальное не забивался болт. Так и ИИ в США - они развивают и вкладывают в него деньги,на столько сколько реально можно окупить, использовать в реальных задачах и не забывать на остальное. К тому же,проверить доставерность любых заявление Китая - объективно не возможно, нет объективной статистики, страна закрыта. А они еще могут любую пургу нести

nager
()
Ответ на: комментарий от kott

в США не то что скоростных ЖД дорог нет, а даже обычные на уровне прошлого века :)

я бы даже сказал позапрошлого

spbzip
()
Ответ на: комментарий от nager

СССР

нет объективной статистики, страна закрыта

Поговаривают, что электрификация была уже в РИ. Комуняки всё попортили и наврали. В общем, как всегда.

spbzip
()
Последнее исправление: spbzip (всего исправлений: 1)

И тут бах - 24 триллиона!

это в гипотетически построенном кластере и сравниваются они с какими-то своими придуманными в вакууме лимитами nvidia

но в целом это конечно офигеть какой утюг

ei-grad ★★★★★
()

Эм… а как эта микросхема может существовать чисто физически? И насколько она долговечна? Вещество же при нагревании, что характерно, расширятся. И делать она это будет неравномерно.

wandrien ★★
()

я считаю что серьёзные дядьки должны работать в AMD, а не на красношляпников)

avas1
()

Вот это вот + Маск в головы чипы вставляет + президент США чо-то совсем поломался…

Deep state всё же решил Байдена переизбрать, что-ли? Так для его функционирования такие мощности не требуются, там и Z80 с ELIZA за глаза и за уши. Да и 300мм в голову не запихаешь.

Впрочем, пусть с этим своим бардаком американцы сами разбираются. Ребята ушлые, да и оружие пока не отобрали, может и спасутся.

И да, ANN никакого отношения к интеллекту не имеют вообще. Ни к какому, ни к искусстенному, ни тем более к естественному. Хоть там 100500 триллионов параметров будет.

Stanson ★★★★★
()
Закрыто добавление комментариев для недавно зарегистрированных пользователей (со score < 50)