CANN Samples

MindSpore Transformers套件的目标是构建一个大模型预训练、微调、推理、部署的全流程开发套件，提供业内主流的Transformer类大语言模型（Large Language Models, LLMs）和多模态理解模型（Multimodal Models, MMs）。期望帮助用户轻松地实现大模型全流程开发。

小智 AI 聊天机器人 （XiaoZhi AI Chatbot） 小智国内同步镜像

Omni_Infer is a suite of inference accelerators designed for the Ascend NPU platform, offering native support and an expanding feature set.

适用于Atlas200DK推理应用的入门开发者。项目采用将模型推理与应用相解耦，把开发板抽象为AI模型推理的黑箱，构建了分布式远程推理框架，并提供了多种输入模态、多种输出方式以及多线程支持的高度复用工具，解决了开发板资源稀缺课程受限、环境配置复杂上手困难、缺乏可视化体验不好等难点问题，具有开发简洁、运行高效、部署灵活、风格一致等四大主要特点。

TorchAir 支持用户基于PyTorch框架和torch_npu插件在昇腾NPU上使用图模式进行训练和推理

DeepSparkHub甄选上百个应用算法和模型，覆盖AI和通用计算各领域，支持主流市场智能计算落地应用场景。

DeepSparkInference推理模型示例库甄选了216个推理大小模型示例，小模型涵盖计算机视觉，自然语言处理，语音识别等领域；大模型涉及vLLM，TGI等多种框架，并将持续扩展更多、更新的模型示例。

MindSDK Reference Apps

面向 L5 自主飞行的 eVTOL 与无人机，提供稳健强大基于激光雷达的全自主飞行开源平台。