import sys
from _utils import (
    run_profile,
    get_input_shape_and_config_list,
)

############################################################
# <import>
import torch
from aiter.ops.triton.gemm.basic.gemm_a8w8_per_token_scale import (
    gemm_a8w8_per_token_scale,
)
from op_tests.triton_tests.gemm.basic.test_gemm_a8w8_per_token_scale import (
    generate_gemm_a8w8_per_token_scale_inputs,
)

############################################################

input_shape, config_list = get_input_shape_and_config_list(sys.argv, shape_size=3)

############################################################
# <generate input>
dtype = torch.bfloat16
x, weight, x_scale, w_scale, y = generate_gemm_a8w8_per_token_scale_inputs(
    *input_shape,
    dtype=dtype,
    layout="TN",
    output=True,
)
############################################################

for config in config_list:

    def fn():
        ############################################################
        # <run API>
        gemm_a8w8_per_token_scale(x, weight, x_scale, w_scale, dtype, y, config=config)
        ############################################################

    run_profile(fn)
