Карпатый microGPT

https://habr.com/ru/news/995638/

https://habr.com/ru/articles/996404/

https://habr.com/ru/companies/bothub/articles/1001696/

https://www.analyticsvidhya.com/blog/2026/02/andrej-karpathy-microgpt/

https://gist.github.com/karpathy/8627fe009c40f57531cb18360106ce95

nedoGPT

https://share.google/aimode/DcfbHR04awBu7pI41

import random

class MiniGPT:
    def __init__(self):
        self.knowledge = {}

    def train(self, text):
        # Разбиваем текст на слова (простейшая токенизация)
        tokens = text.split()
        for i in range(len(tokens) - 1):
            current_token = tokens[i]
            next_token = tokens[i + 1]
            # Формируем "память": какое слово идет за каким
            if current_token not in self.knowledge:
                self.knowledge[current_token] = []
            self.knowledge[current_token].append(next_token)

    def generate(self, start_word, length=10):
        current = start_word
        result = [current]
        
        for _ in range(length - 1):
            # Предсказываем следующее слово на основе накопленных данных
            options = self.knowledge.get(current)
            if not options:
                break
            current = random.choice(options)
            result.append(current)
            
        return " ".join(result)

# Пример использования:
model = MiniGPT()
data = "привет мир привет питон мир программирования это круто питон это магия"
model.train(data)

print(model.generate("привет", length=5))