创建与注销服务器
This commit is contained in:
		@@ -13,6 +13,31 @@ type Task struct {
 | 
			
		||||
	UpdatedAt time.Time `json:"updated_at" gorm:"autoUpdateTime"`
 | 
			
		||||
}
 | 
			
		||||
 | 
			
		||||
// 异步任务调度管理
 | 
			
		||||
type AsynchronousTaskSchedulingManagement struct {
 | 
			
		||||
	tasks   map[int]Task      // 任务队列
 | 
			
		||||
	servers map[string]Server // 服务器队列
 | 
			
		||||
}
 | 
			
		||||
 | 
			
		||||
// 向任务队列添加任务
 | 
			
		||||
func (m *AsynchronousTaskSchedulingManagement) AddTask(task Task) {
 | 
			
		||||
	// 1. 任务加入队列, 任务状态为 waiting, 每次从最后一个任务开始执行, 并向上全取同模型的任务, 任务状态更新为 waiting(排队), 并更新此模型的排队状态到所有关注此模型的用户(管理员每个连接都关注所有模型)
 | 
			
		||||
	// 2. 任务从队列中取出, 任务队列长度超过12则增加机器, 模型类型持续占用机器则增加机器
 | 
			
		||||
 | 
			
		||||
	// 加入任务队列
 | 
			
		||||
	m.tasks[task.ID] = task
 | 
			
		||||
 | 
			
		||||
	// 检查任务队列长度, 持续增长超过12则增加机器
 | 
			
		||||
	if len(m.tasks) > 12 {
 | 
			
		||||
		var server Server
 | 
			
		||||
		m.servers[server.ID] = server
 | 
			
		||||
	}
 | 
			
		||||
 | 
			
		||||
	// 向目标机器发送模型
 | 
			
		||||
	// 向目标机器切换模型
 | 
			
		||||
	// 向目标机器发送任务
 | 
			
		||||
}
 | 
			
		||||
 | 
			
		||||
//// 推理任務
 | 
			
		||||
//func startInferenceTask(task *Task) {
 | 
			
		||||
//
 | 
			
		||||
 
 | 
			
		||||
@@ -4,9 +4,18 @@ import (
 | 
			
		||||
	"database/sql/driver"
 | 
			
		||||
	"encoding/json"
 | 
			
		||||
	"fmt"
 | 
			
		||||
	"io/ioutil"
 | 
			
		||||
	"main/configs"
 | 
			
		||||
	"net/http"
 | 
			
		||||
	"path/filepath"
 | 
			
		||||
	"time"
 | 
			
		||||
 | 
			
		||||
	"gopkg.in/yaml.v2"
 | 
			
		||||
 | 
			
		||||
	"github.com/tencentcloud/tencentcloud-sdk-go/tencentcloud/common"
 | 
			
		||||
	"github.com/tencentcloud/tencentcloud-sdk-go/tencentcloud/common/errors"
 | 
			
		||||
	"github.com/tencentcloud/tencentcloud-sdk-go/tencentcloud/common/profile"
 | 
			
		||||
	cvm "github.com/tencentcloud/tencentcloud-sdk-go/tencentcloud/cvm/v20170312"
 | 
			
		||||
)
 | 
			
		||||
 | 
			
		||||
type ModelList []string
 | 
			
		||||
@@ -33,10 +42,92 @@ type Server struct {
 | 
			
		||||
	UpdatedAt time.Time `json:"updated_at" gorm:"autoUpdateTime"`
 | 
			
		||||
}
 | 
			
		||||
 | 
			
		||||
// 获取所有服务器
 | 
			
		||||
func GetServers() (servers []Server, err error) {
 | 
			
		||||
	err = configs.ORMDB().Find(&servers).Error
 | 
			
		||||
	return
 | 
			
		||||
var config = struct {
 | 
			
		||||
	TencentCloud struct {
 | 
			
		||||
		SecretId  string `yaml:"SecretId"`
 | 
			
		||||
		SecretKey string `yaml:"SecretKey"`
 | 
			
		||||
		Region    string `yaml:"Region"`
 | 
			
		||||
	} `yaml:"TencentCloud"`
 | 
			
		||||
}{}
 | 
			
		||||
 | 
			
		||||
func init() {
 | 
			
		||||
	// 讀取配置文件
 | 
			
		||||
	absPath, _ := filepath.Abs("./data/config.yaml")
 | 
			
		||||
	configFile, err := ioutil.ReadFile(absPath)
 | 
			
		||||
	if err != nil {
 | 
			
		||||
		panic(fmt.Errorf("讀取配置文件失敗: %v", err))
 | 
			
		||||
	}
 | 
			
		||||
	if err := yaml.Unmarshal(configFile, &config); err != nil {
 | 
			
		||||
		panic(fmt.Errorf("格式化配置文件失敗: %v", err))
 | 
			
		||||
	}
 | 
			
		||||
}
 | 
			
		||||
 | 
			
		||||
// 创建一台新服务器
 | 
			
		||||
func NewServer(server_type string) (server *Server, err error) {
 | 
			
		||||
	// 调用 API 创建一台新服务器(通過腾讯云API創建服務器)
 | 
			
		||||
	client, err := cvm.NewClient(common.NewCredential(config.TencentCloud.SecretId, config.TencentCloud.SecretKey), config.TencentCloud.Region, profile.NewClientProfile())
 | 
			
		||||
	if err != nil {
 | 
			
		||||
		return server, fmt.Errorf("初始化騰訊雲SDK客戶端失敗: %v", err)
 | 
			
		||||
	}
 | 
			
		||||
 | 
			
		||||
	// 实例化一个请求对象, 指定啓動模板, 以創建指定規格的服務器
 | 
			
		||||
	request := cvm.NewRunInstancesRequest()
 | 
			
		||||
	request.LaunchTemplate = &cvm.LaunchTemplate{LaunchTemplateId: common.StringPtr("lt-ks6y5evh")}
 | 
			
		||||
	response, err := client.RunInstances(request)
 | 
			
		||||
	if _, ok := err.(*errors.TencentCloudSDKError); ok {
 | 
			
		||||
		return server, fmt.Errorf("已返回 API 错误: %v", err)
 | 
			
		||||
	}
 | 
			
		||||
	if err != nil {
 | 
			
		||||
		return server, fmt.Errorf("运行实例失败: %v", err)
 | 
			
		||||
	}
 | 
			
		||||
 | 
			
		||||
	fmt.Println("創建服務器成功:", response.Response.InstanceIdSet[0])
 | 
			
		||||
 | 
			
		||||
	// 获取服务器信息
 | 
			
		||||
	var get_server_info = func(InstanceIdSet *string) (server *Server, err error) {
 | 
			
		||||
		response2, err := client.DescribeInstances(cvm.NewDescribeInstancesRequest())
 | 
			
		||||
		if err != nil {
 | 
			
		||||
			return server, fmt.Errorf("獲取實例詳情失敗: %v", err)
 | 
			
		||||
		}
 | 
			
		||||
		for _, instance := range response2.Response.InstanceSet {
 | 
			
		||||
			if *instance.InstanceId != *InstanceIdSet {
 | 
			
		||||
				server.ID = *instance.InstanceId
 | 
			
		||||
				server.Name = *instance.InstanceName
 | 
			
		||||
				server.IP = *instance.PublicIpAddresses[0]
 | 
			
		||||
				server.Port = 7890
 | 
			
		||||
				server.Status = *instance.InstanceState
 | 
			
		||||
				configs.ORMDB().Create(&server)
 | 
			
		||||
				return server, nil
 | 
			
		||||
			}
 | 
			
		||||
		}
 | 
			
		||||
		return server, fmt.Errorf("未取得實例詳情: %v", err)
 | 
			
		||||
	}
 | 
			
		||||
 | 
			
		||||
	// 等待服务器创建完成
 | 
			
		||||
	return get_server_info(response.Response.InstanceIdSet[0])
 | 
			
		||||
}
 | 
			
		||||
 | 
			
		||||
// 注销服务器
 | 
			
		||||
func (server *Server) Delete() error {
 | 
			
		||||
	client, err := cvm.NewClient(common.NewCredential(config.TencentCloud.SecretId, config.TencentCloud.SecretKey), config.TencentCloud.Region, profile.NewClientProfile())
 | 
			
		||||
	if err != nil {
 | 
			
		||||
		return fmt.Errorf("初始化騰訊雲SDK客戶端失敗: %v", err)
 | 
			
		||||
	}
 | 
			
		||||
	request := cvm.NewTerminateInstancesRequest()
 | 
			
		||||
	request.InstanceIds = []*string{common.StringPtr(server.ID)}
 | 
			
		||||
	response, err := client.TerminateInstances(request)
 | 
			
		||||
	if _, ok := err.(*errors.TencentCloudSDKError); ok {
 | 
			
		||||
		return fmt.Errorf("已返回 API 错误: %v", err)
 | 
			
		||||
	}
 | 
			
		||||
	if err != nil {
 | 
			
		||||
		return fmt.Errorf("註銷實例失敗: %v", err)
 | 
			
		||||
	}
 | 
			
		||||
 | 
			
		||||
	// 從列表中刪除服務器
 | 
			
		||||
	configs.ORMDB().Delete(&server)
 | 
			
		||||
	fmt.Println("註銷服務器成功:", server.ID, response.Response)
 | 
			
		||||
 | 
			
		||||
	return nil
 | 
			
		||||
}
 | 
			
		||||
 | 
			
		||||
// 檢查服務器是否正常
 | 
			
		||||
 
 | 
			
		||||
		Reference in New Issue
	
	Block a user