Olá HN! Sou Jonathan D. andradr, o criador do protocolo JDA-ZIP.
Para ser completamente honesto, sou um iniciante e não entendo de programação quando se trata de engenharia de software avançada - tudo o que aprendi sobre economia de tokens, na verdade, aprendi interagindo com IAs.
Criei o protocolo JDA-ZIP porque constantemente enfrentava gargalos de RAM e travamentos de aplicativos no meu dispositivo móvel e no Desktop ao lidar com grandes solicitações de texto. Percebi que estávamos desperdiçando muita largura de banda e espaço na janela de contexto ao enviar e receber payloads JSON brutos e repetitivos para os LLMs.
Como funciona o protocolo JDA-ZIP:
Utiliza dicionários locais e âncoras semânticas para mapear cargas úteis repetitivas.
Preserva e reconstrói o contexto de forma 100% determinística (ao contrário da poda com perda de dados, como a do LLMLingua).
Opera na camada de carga útil da aplicação, em vez de usar compressão bruta em nível de byte como o Gzip.
Requer mapeamento leve - ideal para hardware de borda e móvel, sem consumir muitos recursos de RAM/GPU.
Observação: É necessário que tanto o cliente quanto o servidor compartilhem o dicionário para decodificar.
O projeto é de código aberto sob a licença GNU GPLv3. Gostaria muito de receber seu feedback, críticas técnicas ou ideias sobre onde essa abordagem poderia ser útil!
3 comments
[ 289 ms ] story [ 901 ms ] threadPara ser completamente honesto, sou um iniciante e não entendo de programação quando se trata de engenharia de software avançada - tudo o que aprendi sobre economia de tokens, na verdade, aprendi interagindo com IAs.
Criei o protocolo JDA-ZIP porque constantemente enfrentava gargalos de RAM e travamentos de aplicativos no meu dispositivo móvel e no Desktop ao lidar com grandes solicitações de texto. Percebi que estávamos desperdiçando muita largura de banda e espaço na janela de contexto ao enviar e receber payloads JSON brutos e repetitivos para os LLMs.
Como funciona o protocolo JDA-ZIP:
Utiliza dicionários locais e âncoras semânticas para mapear cargas úteis repetitivas.
Preserva e reconstrói o contexto de forma 100% determinística (ao contrário da poda com perda de dados, como a do LLMLingua).
Opera na camada de carga útil da aplicação, em vez de usar compressão bruta em nível de byte como o Gzip.
Requer mapeamento leve - ideal para hardware de borda e móvel, sem consumir muitos recursos de RAM/GPU.
Observação: É necessário que tanto o cliente quanto o servidor compartilhem o dicionário para decodificar.
O projeto é de código aberto sob a licença GNU GPLv3. Gostaria muito de receber seu feedback, críticas técnicas ou ideias sobre onde essa abordagem poderia ser útil!