Nie największy model, lecz najlepiej dopasowany. Ewolucja architektury projektów AI
W ostatnich latach wyścig o tworzenie coraz większych modeli językowych (LLM) był symbolem rozwoju AI. Firmy inwestowały ogromne środki w trenowanie modeli o miliardach parametrów. Jednak rosnące koszty infrastruktury, energochłonność treningu oraz wysoki koszt inferencji sprawiają, że takie podejście nie zawsze jest opłacalne. Coraz częściej firmy zaczynają zastanawiać się, czy nie lepiej postawić na modele mniejsze, wyspecjalizowane pod konkretne zadania…

