# ai-projects

**Repository Path**: advanceflow/ai-projects

## Basic Information

- **Project Name**: ai-projects
- **Description**: No description available
- **Primary Language**: Unknown
- **License**: Not specified
- **Default Branch**: master
- **Homepage**: None
- **GVP Project**: No

## Statistics

- **Stars**: 0
- **Forks**: 0
- **Created**: 2025-03-26
- **Last Updated**: 2025-03-30

## Categories & Tags

**Categories**: Uncategorized

**Tags**: None

## README

收集四个层次芯片，系统，语言，软件相关的开源项目。

# 芯片
## **1. EDA（电子设计自动化）工具链**

• **OpenROAD**

  • **简介**: 由Google支持的开源项目，提供从RTL到GDSII的完整自动化流程，支持物理设计和时序验证。

  • **特点**: 集成多种工具如Yosys（逻辑综合）、OpenSTA（时序分析）等，适合学术和工业应用。

  • **链接**: [OpenROAD GitHub](https://github.com/The-OpenROAD-Project)

• **OpenLane**

  • **简介**: 基于OpenROAD的开源EDA流程，专注于自动化布局布线和验证。

  • **特点**: 提供标准化流程，支持SkyWater 130nm等工艺，适合快速原型设计。

  • **链接**: [OpenLane GitHub](https://github.com/The-OpenROAD-Project/OpenLane)

• **Qflow**

  • **简介**: 开源EDA工具链，涵盖综合、布局布线、时序分析等。

  • **特点**: 轻量级，适合教学和小规模设计。

  • **链接**: [Qflow GitHub](https://github.com/RTimothyEdwards/qflow)

---

## **2. 硬件构造语言与生成框架**
• **Chisel (Constructing Hardware in a Scala Embedded Language)**

  • **简介**: UC Berkeley开发的高级硬件描述语言，可生成Verilog代码。

  • **特点**: 支持参数化硬件生成，广泛用于RISC-V和AI加速器设计。

  • **链接**: [Chisel GitHub](https://github.com/chipsalliance/chisel3)


• **FIRRTL (Flexible Intermediate Representation for RTL)**

  • **简介**: Chisel的中间表示格式，用于硬件设计优化和转换。

  • **特点**: 支持跨工具链的硬件优化。

  • **链接**: [FIRRTL GitHub](https://github.com/chipsalliance/firrtl)

• **Migen/LiteX**

  • **简介**: 基于Python的硬件生成框架，支持快速原型设计。

  • **特点**: 简化FPGA和ASIC设计流程，常用于开源SoC开发。

  • **链接**: [LiteX GitHub](https://github.com/enjoy-digital/litex)

---

## **3. AI加速器参考设计**
• **NVDLA (NVIDIA Deep Learning Accelerator)**

  • **简介**: NVIDIA开源的深度学习加速器架构，提供可定制的RTL代码。

  • **特点**: 支持主流框架（如TensorFlow），适合边缘计算场景。

  • **链接**: [NVDLA GitHub](https://github.com/nvdla)

• **Eyeriss**

  • **简介**: MIT开发的高能效神经网络加速器（开源设计文档，非完整工具链）。

  • **特点**: 专注于能效优化，适合研究参考。

  • **链接**: [Eyeriss 官网](http://eyeriss.mit.edu/)

---

## **4. 建模与评估工具**
• **Timeloop/Accelergy**

  • **简介**: 用于加速器性能建模和能耗估算的开源工具。

  • **特点**: 支持架构探索，优化AI硬件设计。

  • **链接**: [Timeloop GitHub](https://github.com/Accelergy-Project/timeloop)

---

## **5. 逻辑综合与仿真工具**
• **Yosys**

  • **简介**: 开源的逻辑综合工具，支持Verilog到门级网表的转换。

  • **特点**: 集成于OpenROAD流程，适合RISC-V和AI芯片设计。

  • **链接**: [Yosys GitHub](https://github.com/YosysHQ/yosys)

• **Verilator**

  • **简介**: 高性能的Verilog仿真工具，支持快速验证。

  • **特点**: 常用于RTL级测试和协同仿真。

  • **链接**: [Verilator GitHub](https://github.com/verilator/verilator)

---

## **6. 其他相关工具**
• **MLIR (Multi-Level Intermediate Representation)**

  • **简介**: LLVM子项目，支持从机器学习模型到硬件代码的编译。

  • **特点**: 被TensorFlow等框架采用，用于优化硬件加速。

  • **链接**: [MLIR GitHub](https://github.com/llvm/llvm-project/tree/main/mlir)

• **Chipyard**

  • **简介**: UC Berkeley的SoC设计框架，集成Chisel和RISC-V工具链。

  • **特点**: 支持定制化AI加速器开发。

  • **链接**: [Chipyard GitHub](https://github.com/ucb-bar/chipyard)

# 系统

# 语言

## Java
### Spring AI 
#### 🎯 框架定位
**Spring AI Alibaba** 是面向 Java 开发者的新一代 AI 应用开发框架，通过将 Spring 生态的优雅设计范式与 AI 能力深度融合，重新定义 Java 领域的智能应用开发体验。该框架由阿里巴巴技术团队基于 [Spring AI](https://spring.io/projects/spring-ai) 开源项目构建，已入选 Spring 官方合作伙伴生态。

#### 🚀 功能矩阵
| 特性维度          | 技术实现                                                                 |
|--------------------|--------------------------------------------------------------------------|
| 基础模型服务       | 阿里云百炼大模型平台、通义系列大模型                                    |
| 开源生态集成       | LangChain4J, HuggingFace, ONNX Runtime                                  |
| 企业级扩展         | 分布式追踪、服务熔断、多模型路由策略                                    |
| 部署形态           | 支持传统应用服务器/Kubernetes 双态部署                                 |

#### 🌐 生态连接
- **云服务集成**：一键接入 [阿里云机器学习平台 PAI](https://www.aliyun.com/product/bigdata/learn)
- **扩展支持**：兼容 OpenAI API 标准，轻松对接 Anthropic、Cohere 等国际主流模型
- **工具链**：配套提供 Spring Boot Starter、Actuator 健康检查、Prometheus 监控指标

#### 📚 最佳实践
[查看开发者指南](https://spring-ai-alibaba.dev/docs/quick-start)

# 软件
## TensorRT-LLM
### 简介
TensorRT-LLM 是一个专为大规模语言模型（LLM）推理优化的库。它提供了一系列最先进的优化技术，包括定制注意力计算内核（custom attention kernels）、动态批处理（inflight batching）、分页键值缓存（paged KV caching）、量化技术（支持FP8、INT4 AWQ、INT8 SmoothQuant等）等，可在NVIDIA GPU上高效执行推理。

通过Python API，TensorRT-LLM能够将LLM模型构建为优化的TensorRT引擎。该库包含Python绑定和C++运行时环境用于执行这些引擎，并集成了NVIDIA Triton推理服务器的后端支持。基于TensorRT-LLM构建的模型可灵活部署于多种硬件配置——从单GPU到多节点多GPU集群，支持通过张量并行（Tensor Parallelism）和流水线并行（Pipeline Parallelism）实现扩展。

TensorRT-LLM内置了多种主流预训练模型的预设配置，用户可通过类似PyTorch的Python API轻松进行定制化修改和扩展。具体支持模型列表请参考官方支持矩阵（Support Matrix）。

该库构建于TensorRT深度学习推理库之上，在继承TensorRT深度优化能力的基础上，叠加了前文所述的LLM专用优化层。作为提前编译器（ahead-of-time compiler），TensorRT会将编译模型转化为高度优化的"引擎"——这种二进制封装包含完整执行图，针对特定GPU架构深度优化，支持验证、性能基准测试及序列化存储，便于后续生产环境部署。

## Core
开源家庭自动化系统，以本地控制与隐私保护为核心。由全球极客与DIY爱好者社区驱动，完美适配树莓派或本地服务器运行。

# 视觉应用
## OCRmyPDF
OCRmyPDF可为扫描的PDF文件添加OCR文本层，使其能够被搜索或复制粘贴。

## Deep-Live-Cam
实时人脸替换，单图一键生成深度伪造视频

# 语言应用
# 语音应用
# 多模应用
# Agent应用
## GenAI_Agents 
生成式AI智能体正站在人工智能发展的最前沿，彻底改变我们与AI技术互动及利用的方式。本代码库旨在引导您完成从基础智能体实现到尖端系统开发的完整历程。

我们的目标是为大家提供宝贵的资源——无论是刚迈入AI领域的新手，还是不断突破技术边界的资深从业者。通过提供从基础到复杂的系列示例，我们致力于在快速发展的GenAI智能体领域推动学习、实践与创新。

更为重要的是，本代码库将成为展示创新智能体成果的平台。无论您是开发了新颖的智能体架构，还是为现有技术找到了创新应用场景，我们都诚挚邀请您与社区分享您的成果。

## Agno
Agno 是一款轻量级多模态智能体开发库，通过统一API封装大语言模型（LLM），并赋予其记忆、知识、工具与逻辑推理等增强能力。

## browser-use
让网站对AI智能体无障碍访问。

# 检索增强应用
# 强化学习框架

# 信息管理
## newsnow 
优雅设计带来愉悦的阅读体验，助您实时获取最新热点资讯。支持Github账号登录及数据同步。默认缓存时长为30分钟，已登录用户可强制拉取最新数据。系统会根据内容源的更新频率动态调整爬取间隔（最快每两分钟一次），从而节省资源，并避免因频繁抓取导致IP被封禁的风险。


# 综合
## awesome-llm-apps 
一个精选的优质LLM应用合集，这些应用基于检索增强生成（RAG）和AI智能体技术构建。该仓库收录了使用OpenAI、Anthropic、Google等商业模型的应用，以及DeepSeek、Qwen或Llama等可在本地计算机上运行的开源模型实现的LLM应用。