Enable runtime access to provider name (#5399)
This commit is contained in:
@@ -30,6 +30,8 @@ pub struct SageMakerTgiProvider {
|
||||
sagemaker_client: SageMakerClient,
|
||||
endpoint_name: String,
|
||||
model: ModelConfig,
|
||||
#[serde(skip)]
|
||||
name: String,
|
||||
}
|
||||
|
||||
impl SageMakerTgiProvider {
|
||||
@@ -79,6 +81,7 @@ impl SageMakerTgiProvider {
|
||||
sagemaker_client,
|
||||
endpoint_name,
|
||||
model,
|
||||
name: Self::metadata().name,
|
||||
})
|
||||
}
|
||||
|
||||
@@ -272,6 +275,10 @@ impl Provider for SageMakerTgiProvider {
|
||||
)
|
||||
}
|
||||
|
||||
fn get_name(&self) -> &str {
|
||||
&self.name
|
||||
}
|
||||
|
||||
fn get_model_config(&self) -> ModelConfig {
|
||||
self.model.clone()
|
||||
}
|
||||
|
||||
Reference in New Issue
Block a user