Hệ thống logging phân tán sử dụng Kafka, Discord webhook và Firebase Cloud Messaging (FCM) với cấu trúc message mới.

• projectName: Tên project/ứng dụng
• function: Tên function/endpoint
• method: HTTP Method (GET, POST, PATCH, PUT, DELETE)
• type: Loại log (ERROR, WARNING, INFO, SUCCESS, DEBUG)
• createdAt: Timestamp (ISO 8601)
• latency: Thời gian xử lý (ms)

• request: Object chứa headers, userAgent, url, params, body
• response: Object chứa code, success, message, data
• consoleLog: Console log hoặc stack trace
• createdBy: Object chứa id, fullname, emplCode (hoặc null nếu guest)
• additionalData: Dữ liệu bổ sung dạng JSON

{
  "projectName": "myapp",
  "function": "login",
  "method": "POST",
  "type": "ERROR",
  "request": {
    "headers": {},
    "userAgent": "Mozilla/5.0...",
    "url": "/api/auth/login",
    "params": {},
    "body": { "email": "[email protected]" }
  },
  "response": {
    "code": 500,
    "success": false,
    "message": "Database connection failed",
    "data": []
  },
  "consoleLog": "Error: Connection timeout...",
  "createdAt": "2023-10-05T12:34:56.789Z",
  "createdBy": {
    "id": "user123",
    "fullname": "Nguyen Van A",
    "emplCode": "EMP001"
  },
  "additionalData": {
    "database": "postgres",
    "timeout": 30000
  },
  "latency": 30250
}

• MESSAGE_STRUCTURE.md - Chi tiết cấu trúc message
• NEW_STRUCTURE_GUIDE.md - Hướng dẫn sử dụng
• UPDATE_SUMMARY.md - Tổng hợp thay đổi
• QUICK_START.md - Hướng dẫn quick start

• ../CICD_SUMMARY.md - Complete CI/CD setup summary
• CICD_QUICK_START.md - Quick start guide
• CICD_SETUP.md - Detailed setup guide (Vietnamese)
• CICD_DIAGRAM.md - Visual diagrams & flow
• CICD_CHECKLIST.md - Step-by-step checklist

• LOG_PROCESSOR_IMPLEMENTATION.md - ✨ Complete implementation summary
• LOG_PROCESSOR_SUMMARY.md - Technical summary
• log-processor/README.md - Quick overview
• log-processor/SETUP_GUIDE.md - Detailed setup guide
• log-processor/ARCHITECTURE_DIAGRAM.md - System architecture
• log-processor/QUICK_REFERENCE.md - Quick reference card

• Messages thất bại sau khi retry tối đa sẽ được gửi vào error-logs-dlq
• Lưu trữ đầy đủ thông tin lỗi, metadata, và số lần retry
• Cho phép phân tích và xử lý lại messages lỗi sau này

• Exponential backoff: Thời gian retry tăng theo cấp số nhân (1s, 2s, 4s...)
• Configurable retries: Mặc định 3 lần retry cho Discord webhook
• Retry Queue: Messages thất bại được gửi vào error-logs-retry để xử lý lại

• Graceful degradation: Consumer không crash khi có lỗi
• Error classification: Phân loại lỗi theo loại (parse error, validation error, network error)
• Logging: Log chi tiết mọi lỗi với stack trace
• Metrics tracking: Theo dõi số lượng success/failure/retry

• Realtime metrics mỗi 30 giây:
  • ✅ Processed: Số messages xử lý thành công
  • ❌ Failed: Số messages thất bại
  • 🔄 Retried Successfully: Số messages retry thành công
  • ⚰️ Sent to DLQ: Số messages gửi vào DLQ
  • 🔴 Discord Errors: Số lỗi gửi Discord

• Auto topic creation: Tự động tạo topics khi cần
• Graceful shutdown: Disconnect sạch sẽ khi tắt (Ctrl+C)
• Rich Discord embeds: Format đẹp với metadata đầy đủ
• Configurable timeouts: Có thể config timeout cho mọi thao tác

1. Discord Webhook Service - Gửi error logs đến Discord

   • Xử lý messages từ error-logs topic
   • Retry mechanism với exponential backoff
   • DLQ cho messages thất bại

2. FCM Service - Push notifications qua Firebase Cloud Messaging

   • Consumer từ error-logs topic
   • Gửi notifications đến mobile devices

3. Log Processor Service 📊 NEW

   • Consumer từ logs.error.dlq topic
   • Lưu error logs vào PostgreSQL database
   • Sử dụng Prisma ORM
   • 3 tables: Projects, Functions, Logs
   • Full-text search và analytics capabilities

error-logs          → Main topic (messages mới)
error-logs-retry    → Retry queue (messages đang retry)
error-logs-dlq      → Dead Letter Queue (messages thất bại cuối cùng)
logs.error.dlq      → Error logs for database storage (Log Processor)

const CONFIG = {
  kafka: {
    brokers: ['localhost:19092', 'localhost:29092', 'localhost:39092'],
    connectionTimeout: 30000,
    requestTimeout: 30000
  },
  discord: {
    webhookUrl: 'YOUR_WEBHOOK_URL',
    maxRetries: 3,          // Số lần retry cho Discord
    retryDelay: 1000,       // Delay giữa các retry (ms)
    timeout: 5000
  },
  processing: {
    maxRetries: 3,          // Số lần retry trước khi vào DLQ
    retryDelay: 2000
  }
};

./create-topics.sh

cd discord-webhook
node index.js

node test-producer.js

Test producer sẽ gửi 5 messages:

• 3 messages hợp lệ ✅
• 2 messages không hợp lệ ❌ (để test error handling)

./monitor-dlq.sh

┌─────────────────┐
│  error-logs     │ (Main topic)
│  (new messages) │
└────────┬────────┘
         │
         ▼
┌─────────────────────────┐
│  Process Message        │
│  - Parse JSON           │
│  - Validate             │
│  - Send to Discord      │
└────┬──────────┬─────────┘
     │          │
     ▼          ▼
  SUCCESS    FAILED
     │          │
     │          ▼
     │     ┌─────────────────┐
     │     │ Retry <= 3?     │
     │     └────┬──────┬─────┘
     │          │      │
     │        YES    NO
     │          │      │
     │          ▼      ▼
     │     ┌─────────────────┐   ┌─────────────────┐
     │     │ error-logs-retry│   │ error-logs-dlq  │
     │     │ (Retry queue)   │   │ (Dead Letter Q) │
     │     └────────┬────────┘   └─────────────────┘
     │              │
     │              ▼
     │     (Process again with
     │      exponential backoff)
     │              │
     └──────────────┴───► ✅ Commit offset

{
  "id": "550e8400-e29b-41d4-a716-446655440000",
  "timestamp": "2023-10-05T12:34:56Z",
  "level": "ERROR",
  "service": "api-service",
  "message": "Database connection failed",
  "stackTrace": "Error: Connection timeout\n  at Database.connect...",
  "user": "[email protected]",
  "requestId": "req-abc123",
  "additionalData": {
    "database": "postgres",
    "host": "db.example.com",
    "port": 5432
  }
}

• id (required): ID duy nhất (UUID)
• timestamp (required): ISO 8601 format
• level (required): ERROR, WARNING, hoặc INFO
• service (required): Tên service
• message (required): Mô tả lỗi
• stackTrace (optional): Stack trace chi tiết
• user (optional): User liên quan
• requestId (optional): Request ID để tracing
• additionalData (optional): Thông tin bổ sung dạng object

{
  "originalTopic": "error-logs",
  "originalPartition": 0,
  "originalOffset": "12345",
  "error": {
    "message": "Invalid message format: missing 'message' field",
    "stack": "Error: ...",
    "timestamp": "2025-10-09T16:00:05Z"
  },
  "originalData": {...},
  "attemptCount": 3,
  "lastAttemptTime": "2025-10-09T16:00:05Z"
}

# 1. Setup service (install dependencies, generate Prisma client)
./setup-log-processor.sh

# 2. Start all services with Docker
docker-compose up -d

# 3. Check logs
docker logs -f log-processor

# 4. Send test message
./test-log-processor.sh

# 5. View data in Prisma Studio
cd log-processor
npm run prisma:studio
# Access at: http://localhost:5555

cd log-processor

# Install dependencies
npm install

# Generate Prisma Client
npm run prisma:generate

# Push schema to database
npm run prisma:push

# Start in development mode
npm run dev

# Open Prisma Studio to view data
npm run prisma:studio

import { getRecentErrors, getLogsByProject } from './queries.js';

// Get 50 most recent errors
const errors = await getRecentErrors(50);

// Get logs by project with pagination
const logs = await getLogsByProject(projectId, page, limit);

📖 Full Documentation: log-processor/SETUP_GUIDE.md

1. Monitor DLQ thường xuyên: Messages trong DLQ cần được review và xử lý
2. Adjust retry config: Tùy chỉnh số lần retry và delay phù hợp với use case
3. Log analysis: Theo dõi logs để phát hiện patterns của lỗi
4. Graceful shutdown: Luôn dùng Ctrl+C để tắt consumer, không kill -9

• ✅ Auto commit với interval 5s để balance giữa performance và reliability
• ✅ Session timeout 30s, heartbeat 3s cho stability
• ✅ Producer transactions enabled
• ✅ Replication factor 3 cho high availability
• ✅ Partitions 3 cho parallelism

# Kiểm tra Kafka containers
docker ps | grep kafka

# Kiểm tra logs
docker logs kafka-controller-1

# Kiểm tra consumer group
docker exec kafka-controller-1 /opt/kafka/bin/kafka-consumer-groups.sh \
  --bootstrap-server localhost:9092 \
  --describe \
  --group discord-group

# Monitor DLQ
./monitor-dlq.sh

# Analyze error patterns trong logs
grep "Error processing message" logs/*.log

MIT