![[personal profile]](https://www.dreamwidth.org/img/silk/identity/user.png){kind=small}
eugenegpО чудесах искусственного интеллекта и не только: всегда можно выбрать такой способ представления данных, при котором результаты скачкообразны.
Например, если показать продолжительность жизни людей по числу прожитых лет, то это будет обычное естественное рапределение (гауссовское), с постепенным сдвигом вправо.
А если использовать метрику "дожил до 100-не дожил до 100 лет", то будет ноль у подавляющего большинства людей, и резко отличающиеся долгожители.
Так и GPT-модели - внезапно обретают новые способности.
https://www.vice.com/en/article/wxjdg5/scary-emergent-ai-abilities-are-just-a-mirage-produced-by-researchers-stanford-study-says
Например, если показать продолжительность жизни людей по числу прожитых лет, то это будет обычное естественное рапределение (гауссовское), с постепенным сдвигом вправо.
А если использовать метрику "дожил до 100-не дожил до 100 лет", то будет ноль у подавляющего большинства людей, и резко отличающиеся долгожители.
Так и GPT-модели - внезапно обретают новые способности.
https://www.vice.com/en/article/wxjdg5/scary-emergent-ai-abilities-are-just-a-mirage-produced-by-researchers-stanford-study-says
