LINUX.ORG.RU

Bloom как альтернатива ChatGPT

 ,


0

1

Меня забанили в ChatGPT, сказали что я нищеброд и не заработал достаточно токенов.

Хотел бы им отомстить и установить локально Bloom - https://the-decoder.com/bloom-is-a-real-open-source-alternative-to-gpt-3/

«Bloom is based on the Megatron GPT model which is also designed to be a «causal» language model»

UPD: потребуется 330 GB места на диске и 16 GB оперативной памяти. Это для использования (пруф ниже по топику).

Как мне установить и настроить bloom в gentoo ?

★★★

Последнее исправление: maxcom (всего исправлений: 3)

Ответ на: комментарий от fluorite

Мне не надо тренировать, мне только пользоваться:

«A BLOOM checkpoint takes 330 GB of disk space, you just need enough disk space, at least 16GB of RAM, and some patience (you don’t even need a GPU)»

https://towardsdatascience.com/run-bloom-the-largest-open-access-ai-model-on-your-desktop-computer-f48e1e2a9a32

Shushundr ★★★
() автор топика
Ответ на: комментарий от Shushundr

Нет лицензий или несвободные лицензии (https://huggingface.co/spaces/bigscience/license)

В репе из первой ссылки я никаких намеков на лицензию не вижу, значит максимум, что с ним можно делать - это почитать на досуге, как художественную литературу.

annulen ★★★★★
()

Не могу понять ажиотажа вокруг ChatGPT.

Оно может быть полезно только тем кадрам, чья компетенция ограничивается пустопорожней болтовней.

Например, простенькие задачки по арифметике кладут его на лопатки. Все до одной – начинает нести полную ахинею.

elementary number theory – это же арифметика по-русски? В общем, то, что на мехмате в 1 семестре проходят.

i586 ★★★★★
()
Последнее исправление: i586 (всего исправлений: 3)
Ответ на: комментарий от annulen

Он не обучается, кстати.

Когда ему указываешь на ложное утверждение в его «решении», он это ложное утверждение начинает «доказывать». Если покритиковать «доказательство», то ответ становится еще более очевидно ложным. С каждой итерацией все только ухудшается.

i586 ★★★★★
()
Ответ на: комментарий от i586

Он не обучается, кстати.

По-любому обучается, только складывает результаты отдельно, а потом разработчики контролируемо обновляют «боевую» сеть.

annulen ★★★★★
()

Оно слишком жирное, чтобы гонять его на пк, и при этом такое себе несмотря на все 174B параметров.

Вот, возьми вместо него RWKV:

Его хотя бы на обычной видеокарте запустить можно.

quantum-troll ★★★★★
()
Ответ на: комментарий от Shushundr

Генерация текста от слова Hello.

Hello, I am a young woman of 28 years old who has just arrived in New Braunfels for the first time. I like everything but above all a perfect hygiene. I take my time because quality before all of them. I have fabulous natural shapes with no blemishes or tattoos. I am small, 1,60 m, very well proportioned, size 34 for my skirts and 85 D for my breasts generous and natural. I know perfectly how to use my body as well as my head to offer you a unforgettable moment of sensuality and exquisite

Его на каких текстах обучали?))

Rossiks
()
Ответ на: комментарий от i586

Хайп. Не более того. Просто кто-то смекнул, мол зачем тратить лярды денег и платить за тысячи человекочасов для составления данных для обучения сеток когда можно просто пустить сетку «в народ» и набить данные для обучения там.

LINUX-ORG-RU ★★★★★
()
Ответ на: комментарий от Gonzo

О, а можно пруф?

В телеграме есть несколько ботов ChatGPT (ищутся поиском). Там можно почти сразу задавать им вопросы.

Я задал «сложи три, пять и два». «десять» сказало оно.

Shushundr ★★★
() автор топика
Ответ на: комментарий от Gonzo

Человек сделал заявление, что считает неправильно. Я привёл пример, где считает правильно (код инструкции тоже правильный). Поэтому тот человек частично неправ.

Shushundr ★★★
() автор топика

сказали что я нищеброд и не заработал достаточно токенов

Там ещё и токены какие-то нужны? Я только про нероссийский номер телефона слышал.

hobbit ★★★★★
()
Ответ на: комментарий от LINUX-ORG-RU

Показательно, что и в этой теме – сплошная литературщина, общие слова, конспирология, разговоры о пруфах и т.п. Проверить самостийно, как он (не)решает настоящие задачки, кажется, уже никто не в силах.

i586 ★★★★★
()

Тут вроде специалисты по ИИ собрались. Подскажите, я могу взять какую-нибудь модель, скормить ей, скажем, тысячу порнорассказов, как бы дополнительно доучить и потом использовать её как генератор новых порнорассказов?

vbr ★★★★
()
Ответ на: комментарий от i586

Ещё показательнее то, как много людей не понимают, что означает слово «языковая» в словосочетании «языковая модель». Я уже не говорю про смысл словосочетания «языковая модель» целиком, он вообще похоже доступен лишь совсем немногим.

quantum-troll ★★★★★
()
26 июня 2023 г.
Ответ на: комментарий от i586

Например, простенькие задачки по арифметике кладут его на лопатки. Все до одной – начинает нести полную ахинею.

Да его даже простейшая логика на лопатки кладёт, что там говорить о матеметике.

if all A are B and some B are C, must some A be C?

Yes.

В общем, годится как игрушка, или как «более продвинутый гугл», ну и для генерации текстов, для последующей правки (экономия времени). Не более того.


upd: тфу блин, опять не заметил, что это некрофилы откопали.

CrX ★★★
()
Последнее исправление: CrX (всего исправлений: 1)