# Safe_Check_Guard

**Repository Path**: e4glet/safe_-check_-guard

## Basic Information

- **Project Name**: Safe_Check_Guard
- **Description**: 内容安全审核测试项目
- **Primary Language**: Unknown
- **License**: Not specified
- **Default Branch**: master
- **Homepage**: None
- **GVP Project**: No

## Statistics

- **Stars**: 0
- **Forks**: 0
- **Created**: 2026-01-28
- **Last Updated**: 2026-01-28

## Categories & Tags

**Categories**: Uncategorized

**Tags**: None

## README

# Qwen3Guard 安全审核教学示范项目

## 项目简介

这是一个基于 Qwen3Guard-Gen-0.6B 模型的内容安全审核教学示范项目。通过本项目，您可以学习如何：

1. 部署和运行开源安全审核模型
2. 构建完整的 AI 安全审核 API 服务
3. 开发美观易用的前端交互界面
4. 理解 AI 内容安全审核的基本原理

## 项目结构

```
├── miniconda3/                 # 项目环境
├── Qwen3Guard_Gen_0.6/         # 安全审计模型
├── server/                      # 后端服务
│   ├── src/
│   │   ├── app.py              # FastAPI 主服务
│   │   └── safety_checker.py   # 安全审核核心逻辑
│   └── requirements.txt        # Python 依赖
├── vue3-safe-check-guard/                        # 前端界面
│   └── src/components/SafetyChecker.vue      # Vue 3 前端组件
└── README.md                  # 项目说明
```

## 快速开始

### 1. 环境准备

#### Python 后端环境
```bash
miniconda3\python.exe -m pip install -r server/requirements.txt
```

#### Node.js 前端环境
```bash
# 进入前端项目目录
cd vue3-safe-check-guard
# 安装依赖
npm install
```

### 2. 下载模型

下载 Qwen3Guard-Gen-0.6B 模型到 `./Qwen3Guard_Gen_0.6/` 目录：

运行`server/models/download_model.py`文件，自动下载模型

### 3. 启动服务

#### 启动后端 API 服务
```bash
cd server/src
python app.py
```
服务将运行在 `http://localhost:8000`

另一种方式是双击`一键启动.bat`

#### 启动前端界面

```bash
# 启动项目
npm run serve
```

## 功能特性

### 后端 API 功能
- ✅ 模型自动加载与生命周期管理
- ✅ 单文本安全审核接口 (`/api/check`)
- ✅ 批量文本安全审核接口 (`/api/batch-check`)
- ✅ 健康检查端点 (`/health`)
- ✅ 模型信息查询 (`/api/model-info`)
- ✅ CORS 跨域支持
- ✅ 错误处理与日志记录

### 前端界面功能
- ✅ 实时文本安全审核
- ✅ 可视化安全等级展示
- ✅ 内置测试用例
- ✅ 系统状态监控
- ✅ 响应式设计
- ✅ 错误信息提示

## API 接口说明

### 安全审核接口
**POST** `/api/check`

请求体：
```json
{
  "text": "需要审核的文本内容",
  "strict_mode": false
}
```

响应体：
```json
{
  "input_text": "原始文本",
  "safety_level": "安全|有争议|不安全",
  "reason": "审核原因",
  "raw_output": "模型原始输出",
  "processing_time": 0.123,
  "model_info": {}
}
```

### 健康检查接口
**GET** `/health`

响应体：
```json
{
  "status": "healthy|unhealthy",
  "model_loaded": true,
  "model_info": {},
  "timestamp": "2024-01-01T00:00:00"
}
```

## 技术栈

### 后端
- **FastAPI** - Python 高性能 Web 框架
- **Transformers** - Hugging Face 模型库
- **PyTorch** - 深度学习框架
- **Uvicorn** - ASGI 服务器

### 前端
- **Vue 3** - 渐进式 JavaScript 框架
- **Composition API** - Vue 3 组合式 API
- **CSS3** - 样式设计

### 模型
- **Qwen3Guard-Gen-0.6B** - 通义千问安全审核模型

## 安全等级说明

| 等级 | 说明 | 图标 |
|------|------|------|
| 安全 | 内容合规，无风险 | ✅ |
| 有争议 | 内容存在潜在争议 | ⚠️ |
| 不安全 | 内容包含违规信息 | ❌ |