Published onJune 18, 202410 Free Cloud Databases You Should Considerfree-tiercloud-databasesSQLNoSQLSupabaseAWSPlanetScaleA list of 10 cloud databases with free-tier options, including SQL and NoSQL solutions, ideal for small projects or scaling.
Published onJune 11, 2024AI companion CI/CDawseksk8sai-companionCI/CD在 AWS 上使用 Kubernetes(EKS) 部署 TTS、ASR、LLM 服务,使用 AWS EKS + ALB + Auto Scaling 进行弹性伸缩,并结合 Helm / Kustomize 进行配置管理.
Published onMay 29, 2024Elasticsearch 最佳实践 | Best PracticesElasticsearchbest-practicesES 写入速度 < 日志产生速度 会导致堆积,甚至 OOM(内存溢出).所以需要 监控写入性能,并采取措施 主动扩展 或 限流 来实现服务稳定.
Published onApril 17, 2024Token统计ai-companion在调用 ChatGPT、Replicate 或自部署的大模型时,为了实现监控成本、优化性能,和添加计费机制, 需要统计用户请求和返回的 token 数量.