Цитата:от:RUIvan
Я с этими ребятами (иишками) по работе давно уже общаюсь и довольно плотно. Даже лучшие из них не только могут приврать - но и заигнорить прямые инструкции)
Да - еще очень плохая практика - закладывать в вопрос часть ответа которую ты хочешь услышать. Они по умолчанию настроены доставлять пользователю радость и склонны во всем с ним соглашаться по возможности)Подробнее
я эти ИИшки по работе...эмм..отчасти писал (создание ML-моделей для бизнеса, оптимизация инференса, векторный поиск). и сейчас вплотную для себя решаю ввязываться ли в
самый ад машиное отделение: NVidia CUDA на C++, линейная алгебра на виртуозном уровне, написание ядер, оркестрация на Rust)....на кону полгода-год концентрированой пахоты, чтобы освоить нюансы от NVidia, с другой стороны - зп от 1млн в РФ и 200-300К USD/в год на западе. в общем, я немного в теме как устроено ИИ )
Ну и для развлекухи:
1) если ИИ начинает безбожно тупить, надо ее материть. прям буквально. это для модели является жестким маркером на прекращение хождения по кругу и попытки вам продать "а, наконец я тепепь понял на все 100% как все устроено и что ты хотел узнать", появляется шанс, что модель переключит внимание и попытается зайти на проблему с другой стороны. в случае с лагом лепесткового затвора в объективе можно смело писать: "му%ак! затвор работает на скорости 1/2000, 1/4000с, взводится после кадра, а не до и влияет на общий лаг чуть более чем них%я", после чего ИИ начнет копать в сторону скорости считывания матрицы - что как раз и есть причина лага в Хаселе. В общем помимо промпта и жестких рантайм-инструкций ИИ требуется где-то 30-40 минут на разогрев, чтобы она хотя бы более менее выдавала что-то инженерно годное. Если брать темы маркетинга, политики, популярной квантовой физики и глубинного смысла Бхагаватгита - то здесь ИИ-шка сходу блеснет уровнем кандидатского минимума, но там как бы особо и думать не надо и за базар отвечать. (речь про Gemini на 405B)
2) если кому любопытно, запилил тут недавно пару ИИ-агентов, крутятся по утрам на моем Маке Ультра, пишут друг другу романтические письма ни о чем, пока жутко тупят, как и все ИИ (я кручу локально Llama 70B), все это летит в сеть на сайт-витрину, там все живет в кэше самого процессора (это близко к уровню скорости света). Будет чуть посвободнее со временем, допилю им реально продвинутый интеллект.
https://plato.homme.io/#/1023
PS: ссылка безопасная, сайт мой, в отличие от ИИ за базар отвечаю )
PPS: сорри за оффтоп.