Энтузиаст создал «разговорный ИИ» Z80-uLM, уместившийся в файле на 40 КБ и запускаемый на 50-летнем процессоре

Современные модели ИИ обычно ассоциируются с огромными вычислительными мощностями. Но энтузиаст с псевдонимом HarryR решил создать ИИ-модель, которую можно будет запустить на древнем процессоре полувековой давности. 

Речь о CPU Zilog Z80 из 1976 года. Это восьмибитный процессор, который совместно со своими клонами был одним из самых распространённых CPU всех времён.  

Само собой, даже нормально сравнить это решение с современными не выйдет, однако это не остановило HarryR. Он создал проект Z80-μLM, который описан, как разговорный ИИ. 

Z80-μLM — это «разговорный ИИ», который генерирует короткие посимвольные последовательности с обучением с учетом квантизации (QAT) и работает на процессоре Z80 с 64 КБ оперативной памяти. 

В основе этого проекта лежал вопрос: насколько компактным мы можем стать, сохранив при этом индивидуальность, и можно ли будет легко обучать или дорабатывать его? С возможностью простого самостоятельного распространения? 

Ответ — да! И это 40-килобайтный бинарный файл .com (включая вывод данных, веса и пользовательский интерфейс в стиле чата), работающий на процессоре с частотой 4 МГц 1976 года выпуска. 

Этот ИИ не пройдёт тест Тьюринга, но зелёный экран, возможно, вызовет у вас улыбку. 

В целом ИИ умеет работать в двух режимах: Tinychat — это разговорный чат-бот, который отвечает на приветствия и вопросы о себе очень короткими сообщениями, а также Guess — игра из 20 вопросов, в которой модель знает секрет, а мы должны попытаться его угадать. Никаких полноценных бесед с таким чат-ботом вести не получится. 

 Источник: GitHub