diff --git a/models/Task.go b/models/Task.go index 6fe0b28..76e340b 100644 --- a/models/Task.go +++ b/models/Task.go @@ -13,6 +13,31 @@ type Task struct { UpdatedAt time.Time `json:"updated_at" gorm:"autoUpdateTime"` } +// 异步任务调度管理 +type AsynchronousTaskSchedulingManagement struct { + tasks map[int]Task // 任务队列 + servers map[string]Server // 服务器队列 +} + +// 向任务队列添加任务 +func (m *AsynchronousTaskSchedulingManagement) AddTask(task Task) { + // 1. 任务加入队列, 任务状态为 waiting, 每次从最后一个任务开始执行, 并向上全取同模型的任务, 任务状态更新为 waiting(排队), 并更新此模型的排队状态到所有关注此模型的用户(管理员每个连接都关注所有模型) + // 2. 任务从队列中取出, 任务队列长度超过12则增加机器, 模型类型持续占用机器则增加机器 + + // 加入任务队列 + m.tasks[task.ID] = task + + // 检查任务队列长度, 持续增长超过12则增加机器 + if len(m.tasks) > 12 { + var server Server + m.servers[server.ID] = server + } + + // 向目标机器发送模型 + // 向目标机器切换模型 + // 向目标机器发送任务 +} + //// 推理任務 //func startInferenceTask(task *Task) { // diff --git a/models/server.go b/models/server.go index 2e79dc5..52cc1b1 100644 --- a/models/server.go +++ b/models/server.go @@ -4,9 +4,18 @@ import ( "database/sql/driver" "encoding/json" "fmt" + "io/ioutil" "main/configs" "net/http" + "path/filepath" "time" + + "gopkg.in/yaml.v2" + + "github.com/tencentcloud/tencentcloud-sdk-go/tencentcloud/common" + "github.com/tencentcloud/tencentcloud-sdk-go/tencentcloud/common/errors" + "github.com/tencentcloud/tencentcloud-sdk-go/tencentcloud/common/profile" + cvm "github.com/tencentcloud/tencentcloud-sdk-go/tencentcloud/cvm/v20170312" ) type ModelList []string @@ -33,10 +42,92 @@ type Server struct { UpdatedAt time.Time `json:"updated_at" gorm:"autoUpdateTime"` } -// 获取所有服务器 -func GetServers() (servers []Server, err error) { - err = configs.ORMDB().Find(&servers).Error - return +var config = struct { + TencentCloud struct { + SecretId string `yaml:"SecretId"` + SecretKey string `yaml:"SecretKey"` + Region string `yaml:"Region"` + } `yaml:"TencentCloud"` +}{} + +func init() { + // 讀取配置文件 + absPath, _ := filepath.Abs("./data/config.yaml") + configFile, err := ioutil.ReadFile(absPath) + if err != nil { + panic(fmt.Errorf("讀取配置文件失敗: %v", err)) + } + if err := yaml.Unmarshal(configFile, &config); err != nil { + panic(fmt.Errorf("格式化配置文件失敗: %v", err)) + } +} + +// 创建一台新服务器 +func NewServer(server_type string) (server *Server, err error) { + // 调用 API 创建一台新服务器(通過腾讯云API創建服務器) + client, err := cvm.NewClient(common.NewCredential(config.TencentCloud.SecretId, config.TencentCloud.SecretKey), config.TencentCloud.Region, profile.NewClientProfile()) + if err != nil { + return server, fmt.Errorf("初始化騰訊雲SDK客戶端失敗: %v", err) + } + + // 实例化一个请求对象, 指定啓動模板, 以創建指定規格的服務器 + request := cvm.NewRunInstancesRequest() + request.LaunchTemplate = &cvm.LaunchTemplate{LaunchTemplateId: common.StringPtr("lt-ks6y5evh")} + response, err := client.RunInstances(request) + if _, ok := err.(*errors.TencentCloudSDKError); ok { + return server, fmt.Errorf("已返回 API 错误: %v", err) + } + if err != nil { + return server, fmt.Errorf("运行实例失败: %v", err) + } + + fmt.Println("創建服務器成功:", response.Response.InstanceIdSet[0]) + + // 获取服务器信息 + var get_server_info = func(InstanceIdSet *string) (server *Server, err error) { + response2, err := client.DescribeInstances(cvm.NewDescribeInstancesRequest()) + if err != nil { + return server, fmt.Errorf("獲取實例詳情失敗: %v", err) + } + for _, instance := range response2.Response.InstanceSet { + if *instance.InstanceId != *InstanceIdSet { + server.ID = *instance.InstanceId + server.Name = *instance.InstanceName + server.IP = *instance.PublicIpAddresses[0] + server.Port = 7890 + server.Status = *instance.InstanceState + configs.ORMDB().Create(&server) + return server, nil + } + } + return server, fmt.Errorf("未取得實例詳情: %v", err) + } + + // 等待服务器创建完成 + return get_server_info(response.Response.InstanceIdSet[0]) +} + +// 注销服务器 +func (server *Server) Delete() error { + client, err := cvm.NewClient(common.NewCredential(config.TencentCloud.SecretId, config.TencentCloud.SecretKey), config.TencentCloud.Region, profile.NewClientProfile()) + if err != nil { + return fmt.Errorf("初始化騰訊雲SDK客戶端失敗: %v", err) + } + request := cvm.NewTerminateInstancesRequest() + request.InstanceIds = []*string{common.StringPtr(server.ID)} + response, err := client.TerminateInstances(request) + if _, ok := err.(*errors.TencentCloudSDKError); ok { + return fmt.Errorf("已返回 API 错误: %v", err) + } + if err != nil { + return fmt.Errorf("註銷實例失敗: %v", err) + } + + // 從列表中刪除服務器 + configs.ORMDB().Delete(&server) + fmt.Println("註銷服務器成功:", server.ID, response.Response) + + return nil } // 檢查服務器是否正常