|  | ########## torch.float32/torch.int32/size=(2, 3)+(2, 3)+() ########## | 
|  | # sparse tensor | 
|  | tensor(ccol_indices=tensor([[[0, 1, 2, 3], | 
|  | [0, 1, 2, 3], | 
|  | [0, 1, 2, 3]], | 
|  |  | 
|  | [[0, 1, 2, 3], | 
|  | [0, 1, 2, 3], | 
|  | [0, 1, 2, 3]]]), | 
|  | row_indices=tensor([[[0, 0, 0], | 
|  | [0, 0, 0], | 
|  | [0, 0, 0]], | 
|  |  | 
|  | [[0, 0, 0], | 
|  | [0, 0, 0], | 
|  | [0, 0, 0]]]), | 
|  | values=tensor([[[[[1.], | 
|  | [3.]], | 
|  |  | 
|  | [[2.], | 
|  | [0.]], | 
|  |  | 
|  | [[0.], | 
|  | [4.]]], | 
|  |  | 
|  |  | 
|  | [[[1.], | 
|  | [4.]], | 
|  |  | 
|  | [[2.], | 
|  | [0.]], | 
|  |  | 
|  | [[3.], | 
|  | [0.]]], | 
|  |  | 
|  |  | 
|  | [[[1.], | 
|  | [2.]], | 
|  |  | 
|  | [[0.], | 
|  | [3.]], | 
|  |  | 
|  | [[0.], | 
|  | [4.]]]], | 
|  |  | 
|  |  | 
|  |  | 
|  | [[[[0.], | 
|  | [2.]], | 
|  |  | 
|  | [[1.], | 
|  | [3.]], | 
|  |  | 
|  | [[0.], | 
|  | [4.]]], | 
|  |  | 
|  |  | 
|  | [[[1.], | 
|  | [3.]], | 
|  |  | 
|  | [[0.], | 
|  | [4.]], | 
|  |  | 
|  | [[2.], | 
|  | [0.]]], | 
|  |  | 
|  |  | 
|  | [[[1.], | 
|  | [0.]], | 
|  |  | 
|  | [[2.], | 
|  | [4.]], | 
|  |  | 
|  | [[3.], | 
|  | [0.]]]]]), device='cuda:0', size=(2, 3, 2, 3), nnz=3, | 
|  | layout=torch.sparse_bsc) | 
|  | # _ccol_indices | 
|  | tensor([[[0, 1, 2, 3], | 
|  | [0, 1, 2, 3], | 
|  | [0, 1, 2, 3]], | 
|  |  | 
|  | [[0, 1, 2, 3], | 
|  | [0, 1, 2, 3], | 
|  | [0, 1, 2, 3]]], device='cuda:0', dtype=torch.int32) | 
|  | # _row_indices | 
|  | tensor([[[0, 0, 0], | 
|  | [0, 0, 0], | 
|  | [0, 0, 0]], | 
|  |  | 
|  | [[0, 0, 0], | 
|  | [0, 0, 0], | 
|  | [0, 0, 0]]], device='cuda:0', dtype=torch.int32) | 
|  | # _values | 
|  | tensor([[[[[1.], | 
|  | [3.]], | 
|  |  | 
|  | [[2.], | 
|  | [0.]], | 
|  |  | 
|  | [[0.], | 
|  | [4.]]], | 
|  |  | 
|  |  | 
|  | [[[1.], | 
|  | [4.]], | 
|  |  | 
|  | [[2.], | 
|  | [0.]], | 
|  |  | 
|  | [[3.], | 
|  | [0.]]], | 
|  |  | 
|  |  | 
|  | [[[1.], | 
|  | [2.]], | 
|  |  | 
|  | [[0.], | 
|  | [3.]], | 
|  |  | 
|  | [[0.], | 
|  | [4.]]]], | 
|  |  | 
|  |  | 
|  |  | 
|  | [[[[0.], | 
|  | [2.]], | 
|  |  | 
|  | [[1.], | 
|  | [3.]], | 
|  |  | 
|  | [[0.], | 
|  | [4.]]], | 
|  |  | 
|  |  | 
|  | [[[1.], | 
|  | [3.]], | 
|  |  | 
|  | [[0.], | 
|  | [4.]], | 
|  |  | 
|  | [[2.], | 
|  | [0.]]], | 
|  |  | 
|  |  | 
|  | [[[1.], | 
|  | [0.]], | 
|  |  | 
|  | [[2.], | 
|  | [4.]], | 
|  |  | 
|  | [[3.], | 
|  | [0.]]]]], device='cuda:0') | 
|  |  | 
|  | ########## torch.float32/torch.int32/size=()+(8, 6)+() ########## | 
|  | # sparse tensor | 
|  | tensor(ccol_indices=tensor([0, 4, 7]), | 
|  | row_indices=tensor([0, 1, 2, 3, 0, 2, 3]), | 
|  | values=tensor([[[ 0.,  1.,  0.], | 
|  | [ 0.,  4.,  0.]], | 
|  |  | 
|  | [[ 6.,  7.,  8.], | 
|  | [ 0.,  0.,  0.]], | 
|  |  | 
|  | [[ 0.,  9.,  0.], | 
|  | [13.,  0., 14.]], | 
|  |  | 
|  | [[ 0.,  0.,  0.], | 
|  | [20., 21., 22.]], | 
|  |  | 
|  | [[ 2.,  0.,  3.], | 
|  | [ 0.,  5.,  0.]], | 
|  |  | 
|  | [[10., 11., 12.], | 
|  | [15., 16., 17.]], | 
|  |  | 
|  | [[ 0., 18., 19.], | 
|  | [ 0., 23., 24.]]]), device='cuda:0', size=(8, 6), nnz=7, | 
|  | layout=torch.sparse_bsc) | 
|  | # _ccol_indices | 
|  | tensor([0, 4, 7], device='cuda:0', dtype=torch.int32) | 
|  | # _row_indices | 
|  | tensor([0, 1, 2, 3, 0, 2, 3], device='cuda:0', dtype=torch.int32) | 
|  | # _values | 
|  | tensor([[[ 0.,  1.,  0.], | 
|  | [ 0.,  4.,  0.]], | 
|  |  | 
|  | [[ 6.,  7.,  8.], | 
|  | [ 0.,  0.,  0.]], | 
|  |  | 
|  | [[ 0.,  9.,  0.], | 
|  | [13.,  0., 14.]], | 
|  |  | 
|  | [[ 0.,  0.,  0.], | 
|  | [20., 21., 22.]], | 
|  |  | 
|  | [[ 2.,  0.,  3.], | 
|  | [ 0.,  5.,  0.]], | 
|  |  | 
|  | [[10., 11., 12.], | 
|  | [15., 16., 17.]], | 
|  |  | 
|  | [[ 0., 18., 19.], | 
|  | [ 0., 23., 24.]]], device='cuda:0') | 
|  |  | 
|  |  | 
|  | ########## torch.float64/torch.int32/size=(2, 3)+(2, 3)+() ########## | 
|  | # sparse tensor | 
|  | tensor(ccol_indices=tensor([[[0, 1, 2, 3], | 
|  | [0, 1, 2, 3], | 
|  | [0, 1, 2, 3]], | 
|  |  | 
|  | [[0, 1, 2, 3], | 
|  | [0, 1, 2, 3], | 
|  | [0, 1, 2, 3]]]), | 
|  | row_indices=tensor([[[0, 0, 0], | 
|  | [0, 0, 0], | 
|  | [0, 0, 0]], | 
|  |  | 
|  | [[0, 0, 0], | 
|  | [0, 0, 0], | 
|  | [0, 0, 0]]]), | 
|  | values=tensor([[[[[1.], | 
|  | [3.]], | 
|  |  | 
|  | [[2.], | 
|  | [0.]], | 
|  |  | 
|  | [[0.], | 
|  | [4.]]], | 
|  |  | 
|  |  | 
|  | [[[1.], | 
|  | [4.]], | 
|  |  | 
|  | [[2.], | 
|  | [0.]], | 
|  |  | 
|  | [[3.], | 
|  | [0.]]], | 
|  |  | 
|  |  | 
|  | [[[1.], | 
|  | [2.]], | 
|  |  | 
|  | [[0.], | 
|  | [3.]], | 
|  |  | 
|  | [[0.], | 
|  | [4.]]]], | 
|  |  | 
|  |  | 
|  |  | 
|  | [[[[0.], | 
|  | [2.]], | 
|  |  | 
|  | [[1.], | 
|  | [3.]], | 
|  |  | 
|  | [[0.], | 
|  | [4.]]], | 
|  |  | 
|  |  | 
|  | [[[1.], | 
|  | [3.]], | 
|  |  | 
|  | [[0.], | 
|  | [4.]], | 
|  |  | 
|  | [[2.], | 
|  | [0.]]], | 
|  |  | 
|  |  | 
|  | [[[1.], | 
|  | [0.]], | 
|  |  | 
|  | [[2.], | 
|  | [4.]], | 
|  |  | 
|  | [[3.], | 
|  | [0.]]]]]), device='cuda:0', size=(2, 3, 2, 3), nnz=3, | 
|  | dtype=torch.float64, layout=torch.sparse_bsc) | 
|  | # _ccol_indices | 
|  | tensor([[[0, 1, 2, 3], | 
|  | [0, 1, 2, 3], | 
|  | [0, 1, 2, 3]], | 
|  |  | 
|  | [[0, 1, 2, 3], | 
|  | [0, 1, 2, 3], | 
|  | [0, 1, 2, 3]]], device='cuda:0', dtype=torch.int32) | 
|  | # _row_indices | 
|  | tensor([[[0, 0, 0], | 
|  | [0, 0, 0], | 
|  | [0, 0, 0]], | 
|  |  | 
|  | [[0, 0, 0], | 
|  | [0, 0, 0], | 
|  | [0, 0, 0]]], device='cuda:0', dtype=torch.int32) | 
|  | # _values | 
|  | tensor([[[[[1.], | 
|  | [3.]], | 
|  |  | 
|  | [[2.], | 
|  | [0.]], | 
|  |  | 
|  | [[0.], | 
|  | [4.]]], | 
|  |  | 
|  |  | 
|  | [[[1.], | 
|  | [4.]], | 
|  |  | 
|  | [[2.], | 
|  | [0.]], | 
|  |  | 
|  | [[3.], | 
|  | [0.]]], | 
|  |  | 
|  |  | 
|  | [[[1.], | 
|  | [2.]], | 
|  |  | 
|  | [[0.], | 
|  | [3.]], | 
|  |  | 
|  | [[0.], | 
|  | [4.]]]], | 
|  |  | 
|  |  | 
|  |  | 
|  | [[[[0.], | 
|  | [2.]], | 
|  |  | 
|  | [[1.], | 
|  | [3.]], | 
|  |  | 
|  | [[0.], | 
|  | [4.]]], | 
|  |  | 
|  |  | 
|  | [[[1.], | 
|  | [3.]], | 
|  |  | 
|  | [[0.], | 
|  | [4.]], | 
|  |  | 
|  | [[2.], | 
|  | [0.]]], | 
|  |  | 
|  |  | 
|  | [[[1.], | 
|  | [0.]], | 
|  |  | 
|  | [[2.], | 
|  | [4.]], | 
|  |  | 
|  | [[3.], | 
|  | [0.]]]]], device='cuda:0', dtype=torch.float64) | 
|  |  | 
|  | ########## torch.float64/torch.int32/size=()+(8, 6)+() ########## | 
|  | # sparse tensor | 
|  | tensor(ccol_indices=tensor([0, 4, 7]), | 
|  | row_indices=tensor([0, 1, 2, 3, 0, 2, 3]), | 
|  | values=tensor([[[ 0.,  1.,  0.], | 
|  | [ 0.,  4.,  0.]], | 
|  |  | 
|  | [[ 6.,  7.,  8.], | 
|  | [ 0.,  0.,  0.]], | 
|  |  | 
|  | [[ 0.,  9.,  0.], | 
|  | [13.,  0., 14.]], | 
|  |  | 
|  | [[ 0.,  0.,  0.], | 
|  | [20., 21., 22.]], | 
|  |  | 
|  | [[ 2.,  0.,  3.], | 
|  | [ 0.,  5.,  0.]], | 
|  |  | 
|  | [[10., 11., 12.], | 
|  | [15., 16., 17.]], | 
|  |  | 
|  | [[ 0., 18., 19.], | 
|  | [ 0., 23., 24.]]]), device='cuda:0', size=(8, 6), nnz=7, | 
|  | dtype=torch.float64, layout=torch.sparse_bsc) | 
|  | # _ccol_indices | 
|  | tensor([0, 4, 7], device='cuda:0', dtype=torch.int32) | 
|  | # _row_indices | 
|  | tensor([0, 1, 2, 3, 0, 2, 3], device='cuda:0', dtype=torch.int32) | 
|  | # _values | 
|  | tensor([[[ 0.,  1.,  0.], | 
|  | [ 0.,  4.,  0.]], | 
|  |  | 
|  | [[ 6.,  7.,  8.], | 
|  | [ 0.,  0.,  0.]], | 
|  |  | 
|  | [[ 0.,  9.,  0.], | 
|  | [13.,  0., 14.]], | 
|  |  | 
|  | [[ 0.,  0.,  0.], | 
|  | [20., 21., 22.]], | 
|  |  | 
|  | [[ 2.,  0.,  3.], | 
|  | [ 0.,  5.,  0.]], | 
|  |  | 
|  | [[10., 11., 12.], | 
|  | [15., 16., 17.]], | 
|  |  | 
|  | [[ 0., 18., 19.], | 
|  | [ 0., 23., 24.]]], device='cuda:0', dtype=torch.float64) | 
|  |  | 
|  |  | 
|  | ########## torch.float32/torch.int64/size=(2, 3)+(2, 3)+() ########## | 
|  | # sparse tensor | 
|  | tensor(ccol_indices=tensor([[[0, 1, 2, 3], | 
|  | [0, 1, 2, 3], | 
|  | [0, 1, 2, 3]], | 
|  |  | 
|  | [[0, 1, 2, 3], | 
|  | [0, 1, 2, 3], | 
|  | [0, 1, 2, 3]]]), | 
|  | row_indices=tensor([[[0, 0, 0], | 
|  | [0, 0, 0], | 
|  | [0, 0, 0]], | 
|  |  | 
|  | [[0, 0, 0], | 
|  | [0, 0, 0], | 
|  | [0, 0, 0]]]), | 
|  | values=tensor([[[[[1.], | 
|  | [3.]], | 
|  |  | 
|  | [[2.], | 
|  | [0.]], | 
|  |  | 
|  | [[0.], | 
|  | [4.]]], | 
|  |  | 
|  |  | 
|  | [[[1.], | 
|  | [4.]], | 
|  |  | 
|  | [[2.], | 
|  | [0.]], | 
|  |  | 
|  | [[3.], | 
|  | [0.]]], | 
|  |  | 
|  |  | 
|  | [[[1.], | 
|  | [2.]], | 
|  |  | 
|  | [[0.], | 
|  | [3.]], | 
|  |  | 
|  | [[0.], | 
|  | [4.]]]], | 
|  |  | 
|  |  | 
|  |  | 
|  | [[[[0.], | 
|  | [2.]], | 
|  |  | 
|  | [[1.], | 
|  | [3.]], | 
|  |  | 
|  | [[0.], | 
|  | [4.]]], | 
|  |  | 
|  |  | 
|  | [[[1.], | 
|  | [3.]], | 
|  |  | 
|  | [[0.], | 
|  | [4.]], | 
|  |  | 
|  | [[2.], | 
|  | [0.]]], | 
|  |  | 
|  |  | 
|  | [[[1.], | 
|  | [0.]], | 
|  |  | 
|  | [[2.], | 
|  | [4.]], | 
|  |  | 
|  | [[3.], | 
|  | [0.]]]]]), device='cuda:0', size=(2, 3, 2, 3), nnz=3, | 
|  | layout=torch.sparse_bsc) | 
|  | # _ccol_indices | 
|  | tensor([[[0, 1, 2, 3], | 
|  | [0, 1, 2, 3], | 
|  | [0, 1, 2, 3]], | 
|  |  | 
|  | [[0, 1, 2, 3], | 
|  | [0, 1, 2, 3], | 
|  | [0, 1, 2, 3]]], device='cuda:0') | 
|  | # _row_indices | 
|  | tensor([[[0, 0, 0], | 
|  | [0, 0, 0], | 
|  | [0, 0, 0]], | 
|  |  | 
|  | [[0, 0, 0], | 
|  | [0, 0, 0], | 
|  | [0, 0, 0]]], device='cuda:0') | 
|  | # _values | 
|  | tensor([[[[[1.], | 
|  | [3.]], | 
|  |  | 
|  | [[2.], | 
|  | [0.]], | 
|  |  | 
|  | [[0.], | 
|  | [4.]]], | 
|  |  | 
|  |  | 
|  | [[[1.], | 
|  | [4.]], | 
|  |  | 
|  | [[2.], | 
|  | [0.]], | 
|  |  | 
|  | [[3.], | 
|  | [0.]]], | 
|  |  | 
|  |  | 
|  | [[[1.], | 
|  | [2.]], | 
|  |  | 
|  | [[0.], | 
|  | [3.]], | 
|  |  | 
|  | [[0.], | 
|  | [4.]]]], | 
|  |  | 
|  |  | 
|  |  | 
|  | [[[[0.], | 
|  | [2.]], | 
|  |  | 
|  | [[1.], | 
|  | [3.]], | 
|  |  | 
|  | [[0.], | 
|  | [4.]]], | 
|  |  | 
|  |  | 
|  | [[[1.], | 
|  | [3.]], | 
|  |  | 
|  | [[0.], | 
|  | [4.]], | 
|  |  | 
|  | [[2.], | 
|  | [0.]]], | 
|  |  | 
|  |  | 
|  | [[[1.], | 
|  | [0.]], | 
|  |  | 
|  | [[2.], | 
|  | [4.]], | 
|  |  | 
|  | [[3.], | 
|  | [0.]]]]], device='cuda:0') | 
|  |  | 
|  | ########## torch.float32/torch.int64/size=()+(8, 6)+() ########## | 
|  | # sparse tensor | 
|  | tensor(ccol_indices=tensor([0, 4, 7]), | 
|  | row_indices=tensor([0, 1, 2, 3, 0, 2, 3]), | 
|  | values=tensor([[[ 0.,  1.,  0.], | 
|  | [ 0.,  4.,  0.]], | 
|  |  | 
|  | [[ 6.,  7.,  8.], | 
|  | [ 0.,  0.,  0.]], | 
|  |  | 
|  | [[ 0.,  9.,  0.], | 
|  | [13.,  0., 14.]], | 
|  |  | 
|  | [[ 0.,  0.,  0.], | 
|  | [20., 21., 22.]], | 
|  |  | 
|  | [[ 2.,  0.,  3.], | 
|  | [ 0.,  5.,  0.]], | 
|  |  | 
|  | [[10., 11., 12.], | 
|  | [15., 16., 17.]], | 
|  |  | 
|  | [[ 0., 18., 19.], | 
|  | [ 0., 23., 24.]]]), device='cuda:0', size=(8, 6), nnz=7, | 
|  | layout=torch.sparse_bsc) | 
|  | # _ccol_indices | 
|  | tensor([0, 4, 7], device='cuda:0') | 
|  | # _row_indices | 
|  | tensor([0, 1, 2, 3, 0, 2, 3], device='cuda:0') | 
|  | # _values | 
|  | tensor([[[ 0.,  1.,  0.], | 
|  | [ 0.,  4.,  0.]], | 
|  |  | 
|  | [[ 6.,  7.,  8.], | 
|  | [ 0.,  0.,  0.]], | 
|  |  | 
|  | [[ 0.,  9.,  0.], | 
|  | [13.,  0., 14.]], | 
|  |  | 
|  | [[ 0.,  0.,  0.], | 
|  | [20., 21., 22.]], | 
|  |  | 
|  | [[ 2.,  0.,  3.], | 
|  | [ 0.,  5.,  0.]], | 
|  |  | 
|  | [[10., 11., 12.], | 
|  | [15., 16., 17.]], | 
|  |  | 
|  | [[ 0., 18., 19.], | 
|  | [ 0., 23., 24.]]], device='cuda:0') | 
|  |  | 
|  |  | 
|  | ########## torch.float64/torch.int64/size=(2, 3)+(2, 3)+() ########## | 
|  | # sparse tensor | 
|  | tensor(ccol_indices=tensor([[[0, 1, 2, 3], | 
|  | [0, 1, 2, 3], | 
|  | [0, 1, 2, 3]], | 
|  |  | 
|  | [[0, 1, 2, 3], | 
|  | [0, 1, 2, 3], | 
|  | [0, 1, 2, 3]]]), | 
|  | row_indices=tensor([[[0, 0, 0], | 
|  | [0, 0, 0], | 
|  | [0, 0, 0]], | 
|  |  | 
|  | [[0, 0, 0], | 
|  | [0, 0, 0], | 
|  | [0, 0, 0]]]), | 
|  | values=tensor([[[[[1.], | 
|  | [3.]], | 
|  |  | 
|  | [[2.], | 
|  | [0.]], | 
|  |  | 
|  | [[0.], | 
|  | [4.]]], | 
|  |  | 
|  |  | 
|  | [[[1.], | 
|  | [4.]], | 
|  |  | 
|  | [[2.], | 
|  | [0.]], | 
|  |  | 
|  | [[3.], | 
|  | [0.]]], | 
|  |  | 
|  |  | 
|  | [[[1.], | 
|  | [2.]], | 
|  |  | 
|  | [[0.], | 
|  | [3.]], | 
|  |  | 
|  | [[0.], | 
|  | [4.]]]], | 
|  |  | 
|  |  | 
|  |  | 
|  | [[[[0.], | 
|  | [2.]], | 
|  |  | 
|  | [[1.], | 
|  | [3.]], | 
|  |  | 
|  | [[0.], | 
|  | [4.]]], | 
|  |  | 
|  |  | 
|  | [[[1.], | 
|  | [3.]], | 
|  |  | 
|  | [[0.], | 
|  | [4.]], | 
|  |  | 
|  | [[2.], | 
|  | [0.]]], | 
|  |  | 
|  |  | 
|  | [[[1.], | 
|  | [0.]], | 
|  |  | 
|  | [[2.], | 
|  | [4.]], | 
|  |  | 
|  | [[3.], | 
|  | [0.]]]]]), device='cuda:0', size=(2, 3, 2, 3), nnz=3, | 
|  | dtype=torch.float64, layout=torch.sparse_bsc) | 
|  | # _ccol_indices | 
|  | tensor([[[0, 1, 2, 3], | 
|  | [0, 1, 2, 3], | 
|  | [0, 1, 2, 3]], | 
|  |  | 
|  | [[0, 1, 2, 3], | 
|  | [0, 1, 2, 3], | 
|  | [0, 1, 2, 3]]], device='cuda:0') | 
|  | # _row_indices | 
|  | tensor([[[0, 0, 0], | 
|  | [0, 0, 0], | 
|  | [0, 0, 0]], | 
|  |  | 
|  | [[0, 0, 0], | 
|  | [0, 0, 0], | 
|  | [0, 0, 0]]], device='cuda:0') | 
|  | # _values | 
|  | tensor([[[[[1.], | 
|  | [3.]], | 
|  |  | 
|  | [[2.], | 
|  | [0.]], | 
|  |  | 
|  | [[0.], | 
|  | [4.]]], | 
|  |  | 
|  |  | 
|  | [[[1.], | 
|  | [4.]], | 
|  |  | 
|  | [[2.], | 
|  | [0.]], | 
|  |  | 
|  | [[3.], | 
|  | [0.]]], | 
|  |  | 
|  |  | 
|  | [[[1.], | 
|  | [2.]], | 
|  |  | 
|  | [[0.], | 
|  | [3.]], | 
|  |  | 
|  | [[0.], | 
|  | [4.]]]], | 
|  |  | 
|  |  | 
|  |  | 
|  | [[[[0.], | 
|  | [2.]], | 
|  |  | 
|  | [[1.], | 
|  | [3.]], | 
|  |  | 
|  | [[0.], | 
|  | [4.]]], | 
|  |  | 
|  |  | 
|  | [[[1.], | 
|  | [3.]], | 
|  |  | 
|  | [[0.], | 
|  | [4.]], | 
|  |  | 
|  | [[2.], | 
|  | [0.]]], | 
|  |  | 
|  |  | 
|  | [[[1.], | 
|  | [0.]], | 
|  |  | 
|  | [[2.], | 
|  | [4.]], | 
|  |  | 
|  | [[3.], | 
|  | [0.]]]]], device='cuda:0', dtype=torch.float64) | 
|  |  | 
|  | ########## torch.float64/torch.int64/size=()+(8, 6)+() ########## | 
|  | # sparse tensor | 
|  | tensor(ccol_indices=tensor([0, 4, 7]), | 
|  | row_indices=tensor([0, 1, 2, 3, 0, 2, 3]), | 
|  | values=tensor([[[ 0.,  1.,  0.], | 
|  | [ 0.,  4.,  0.]], | 
|  |  | 
|  | [[ 6.,  7.,  8.], | 
|  | [ 0.,  0.,  0.]], | 
|  |  | 
|  | [[ 0.,  9.,  0.], | 
|  | [13.,  0., 14.]], | 
|  |  | 
|  | [[ 0.,  0.,  0.], | 
|  | [20., 21., 22.]], | 
|  |  | 
|  | [[ 2.,  0.,  3.], | 
|  | [ 0.,  5.,  0.]], | 
|  |  | 
|  | [[10., 11., 12.], | 
|  | [15., 16., 17.]], | 
|  |  | 
|  | [[ 0., 18., 19.], | 
|  | [ 0., 23., 24.]]]), device='cuda:0', size=(8, 6), nnz=7, | 
|  | dtype=torch.float64, layout=torch.sparse_bsc) | 
|  | # _ccol_indices | 
|  | tensor([0, 4, 7], device='cuda:0') | 
|  | # _row_indices | 
|  | tensor([0, 1, 2, 3, 0, 2, 3], device='cuda:0') | 
|  | # _values | 
|  | tensor([[[ 0.,  1.,  0.], | 
|  | [ 0.,  4.,  0.]], | 
|  |  | 
|  | [[ 6.,  7.,  8.], | 
|  | [ 0.,  0.,  0.]], | 
|  |  | 
|  | [[ 0.,  9.,  0.], | 
|  | [13.,  0., 14.]], | 
|  |  | 
|  | [[ 0.,  0.,  0.], | 
|  | [20., 21., 22.]], | 
|  |  | 
|  | [[ 2.,  0.,  3.], | 
|  | [ 0.,  5.,  0.]], | 
|  |  | 
|  | [[10., 11., 12.], | 
|  | [15., 16., 17.]], | 
|  |  | 
|  | [[ 0., 18., 19.], | 
|  | [ 0., 23., 24.]]], device='cuda:0', dtype=torch.float64) | 
|  |  | 
|  |  | 
|  | ########## torch.float32/torch.int32/size=(2, 3)+(2, 3)+(4,) ########## | 
|  | # sparse tensor | 
|  | tensor(ccol_indices=tensor([[[0, 1, 2, 3], | 
|  | [0, 1, 2, 3], | 
|  | [0, 1, 2, 3]], | 
|  |  | 
|  | [[0, 1, 2, 3], | 
|  | [0, 1, 2, 3], | 
|  | [0, 1, 2, 3]]]), | 
|  | row_indices=tensor([[[0, 0, 0], | 
|  | [0, 0, 0], | 
|  | [0, 0, 0]], | 
|  |  | 
|  | [[0, 0, 0], | 
|  | [0, 0, 0], | 
|  | [0, 0, 0]]]), | 
|  | values=tensor([[[[[[1., 2., 3., 4.]], | 
|  |  | 
|  | [[3., 4., 5., 6.]]], | 
|  |  | 
|  |  | 
|  | [[[2., 3., 4., 5.]], | 
|  |  | 
|  | [[0., 0., 0., 0.]]], | 
|  |  | 
|  |  | 
|  | [[[0., 0., 0., 0.]], | 
|  |  | 
|  | [[4., 5., 6., 7.]]]], | 
|  |  | 
|  |  | 
|  |  | 
|  | [[[[1., 2., 3., 4.]], | 
|  |  | 
|  | [[4., 5., 6., 7.]]], | 
|  |  | 
|  |  | 
|  | [[[2., 3., 4., 5.]], | 
|  |  | 
|  | [[0., 0., 0., 0.]]], | 
|  |  | 
|  |  | 
|  | [[[3., 4., 5., 6.]], | 
|  |  | 
|  | [[0., 0., 0., 0.]]]], | 
|  |  | 
|  |  | 
|  |  | 
|  | [[[[1., 2., 3., 4.]], | 
|  |  | 
|  | [[2., 3., 4., 5.]]], | 
|  |  | 
|  |  | 
|  | [[[0., 0., 0., 0.]], | 
|  |  | 
|  | [[3., 4., 5., 6.]]], | 
|  |  | 
|  |  | 
|  | [[[0., 0., 0., 0.]], | 
|  |  | 
|  | [[4., 5., 6., 7.]]]]], | 
|  |  | 
|  |  | 
|  |  | 
|  |  | 
|  | [[[[[0., 0., 0., 0.]], | 
|  |  | 
|  | [[2., 3., 4., 5.]]], | 
|  |  | 
|  |  | 
|  | [[[1., 2., 3., 4.]], | 
|  |  | 
|  | [[3., 4., 5., 6.]]], | 
|  |  | 
|  |  | 
|  | [[[0., 0., 0., 0.]], | 
|  |  | 
|  | [[4., 5., 6., 7.]]]], | 
|  |  | 
|  |  | 
|  |  | 
|  | [[[[1., 2., 3., 4.]], | 
|  |  | 
|  | [[3., 4., 5., 6.]]], | 
|  |  | 
|  |  | 
|  | [[[0., 0., 0., 0.]], | 
|  |  | 
|  | [[4., 5., 6., 7.]]], | 
|  |  | 
|  |  | 
|  | [[[2., 3., 4., 5.]], | 
|  |  | 
|  | [[0., 0., 0., 0.]]]], | 
|  |  | 
|  |  | 
|  |  | 
|  | [[[[1., 2., 3., 4.]], | 
|  |  | 
|  | [[0., 0., 0., 0.]]], | 
|  |  | 
|  |  | 
|  | [[[2., 3., 4., 5.]], | 
|  |  | 
|  | [[4., 5., 6., 7.]]], | 
|  |  | 
|  |  | 
|  | [[[3., 4., 5., 6.]], | 
|  |  | 
|  | [[0., 0., 0., 0.]]]]]]), device='cuda:0', | 
|  | size=(2, 3, 2, 3, 4), nnz=3, layout=torch.sparse_bsc) | 
|  | # _ccol_indices | 
|  | tensor([[[0, 1, 2, 3], | 
|  | [0, 1, 2, 3], | 
|  | [0, 1, 2, 3]], | 
|  |  | 
|  | [[0, 1, 2, 3], | 
|  | [0, 1, 2, 3], | 
|  | [0, 1, 2, 3]]], device='cuda:0', dtype=torch.int32) | 
|  | # _row_indices | 
|  | tensor([[[0, 0, 0], | 
|  | [0, 0, 0], | 
|  | [0, 0, 0]], | 
|  |  | 
|  | [[0, 0, 0], | 
|  | [0, 0, 0], | 
|  | [0, 0, 0]]], device='cuda:0', dtype=torch.int32) | 
|  | # _values | 
|  | tensor([[[[[[1., 2., 3., 4.]], | 
|  |  | 
|  | [[3., 4., 5., 6.]]], | 
|  |  | 
|  |  | 
|  | [[[2., 3., 4., 5.]], | 
|  |  | 
|  | [[0., 0., 0., 0.]]], | 
|  |  | 
|  |  | 
|  | [[[0., 0., 0., 0.]], | 
|  |  | 
|  | [[4., 5., 6., 7.]]]], | 
|  |  | 
|  |  | 
|  |  | 
|  | [[[[1., 2., 3., 4.]], | 
|  |  | 
|  | [[4., 5., 6., 7.]]], | 
|  |  | 
|  |  | 
|  | [[[2., 3., 4., 5.]], | 
|  |  | 
|  | [[0., 0., 0., 0.]]], | 
|  |  | 
|  |  | 
|  | [[[3., 4., 5., 6.]], | 
|  |  | 
|  | [[0., 0., 0., 0.]]]], | 
|  |  | 
|  |  | 
|  |  | 
|  | [[[[1., 2., 3., 4.]], | 
|  |  | 
|  | [[2., 3., 4., 5.]]], | 
|  |  | 
|  |  | 
|  | [[[0., 0., 0., 0.]], | 
|  |  | 
|  | [[3., 4., 5., 6.]]], | 
|  |  | 
|  |  | 
|  | [[[0., 0., 0., 0.]], | 
|  |  | 
|  | [[4., 5., 6., 7.]]]]], | 
|  |  | 
|  |  | 
|  |  | 
|  |  | 
|  | [[[[[0., 0., 0., 0.]], | 
|  |  | 
|  | [[2., 3., 4., 5.]]], | 
|  |  | 
|  |  | 
|  | [[[1., 2., 3., 4.]], | 
|  |  | 
|  | [[3., 4., 5., 6.]]], | 
|  |  | 
|  |  | 
|  | [[[0., 0., 0., 0.]], | 
|  |  | 
|  | [[4., 5., 6., 7.]]]], | 
|  |  | 
|  |  | 
|  |  | 
|  | [[[[1., 2., 3., 4.]], | 
|  |  | 
|  | [[3., 4., 5., 6.]]], | 
|  |  | 
|  |  | 
|  | [[[0., 0., 0., 0.]], | 
|  |  | 
|  | [[4., 5., 6., 7.]]], | 
|  |  | 
|  |  | 
|  | [[[2., 3., 4., 5.]], | 
|  |  | 
|  | [[0., 0., 0., 0.]]]], | 
|  |  | 
|  |  | 
|  |  | 
|  | [[[[1., 2., 3., 4.]], | 
|  |  | 
|  | [[0., 0., 0., 0.]]], | 
|  |  | 
|  |  | 
|  | [[[2., 3., 4., 5.]], | 
|  |  | 
|  | [[4., 5., 6., 7.]]], | 
|  |  | 
|  |  | 
|  | [[[3., 4., 5., 6.]], | 
|  |  | 
|  | [[0., 0., 0., 0.]]]]]], device='cuda:0') | 
|  |  | 
|  | ########## torch.float32/torch.int32/size=()+(8, 6)+(4, 2) ########## | 
|  | # sparse tensor | 
|  | tensor(ccol_indices=tensor([0, 4, 7]), | 
|  | row_indices=tensor([0, 1, 2, 3, 0, 2, 3]), | 
|  | values=tensor([[[[[ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.]], | 
|  |  | 
|  | [[ 1., 11.], | 
|  | [ 2., 12.], | 
|  | [ 3., 13.], | 
|  | [ 4., 14.]], | 
|  |  | 
|  | [[ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.]]], | 
|  |  | 
|  |  | 
|  | [[[ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.]], | 
|  |  | 
|  | [[ 4., 14.], | 
|  | [ 5., 15.], | 
|  | [ 6., 16.], | 
|  | [ 7., 17.]], | 
|  |  | 
|  | [[ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.]]]], | 
|  |  | 
|  |  | 
|  |  | 
|  | [[[[ 6., 16.], | 
|  | [ 7., 17.], | 
|  | [ 8., 18.], | 
|  | [ 9., 19.]], | 
|  |  | 
|  | [[ 7., 17.], | 
|  | [ 8., 18.], | 
|  | [ 9., 19.], | 
|  | [10., 20.]], | 
|  |  | 
|  | [[ 8., 18.], | 
|  | [ 9., 19.], | 
|  | [10., 20.], | 
|  | [11., 21.]]], | 
|  |  | 
|  |  | 
|  | [[[ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.]], | 
|  |  | 
|  | [[ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.]], | 
|  |  | 
|  | [[ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.]]]], | 
|  |  | 
|  |  | 
|  |  | 
|  | [[[[ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.]], | 
|  |  | 
|  | [[ 9., 19.], | 
|  | [10., 20.], | 
|  | [11., 21.], | 
|  | [12., 22.]], | 
|  |  | 
|  | [[ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.]]], | 
|  |  | 
|  |  | 
|  | [[[13., 23.], | 
|  | [14., 24.], | 
|  | [15., 25.], | 
|  | [16., 26.]], | 
|  |  | 
|  | [[ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.]], | 
|  |  | 
|  | [[14., 24.], | 
|  | [15., 25.], | 
|  | [16., 26.], | 
|  | [17., 27.]]]], | 
|  |  | 
|  |  | 
|  |  | 
|  | [[[[ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.]], | 
|  |  | 
|  | [[ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.]], | 
|  |  | 
|  | [[ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.]]], | 
|  |  | 
|  |  | 
|  | [[[20., 30.], | 
|  | [21., 31.], | 
|  | [22., 32.], | 
|  | [23., 33.]], | 
|  |  | 
|  | [[21., 31.], | 
|  | [22., 32.], | 
|  | [23., 33.], | 
|  | [24., 34.]], | 
|  |  | 
|  | [[22., 32.], | 
|  | [23., 33.], | 
|  | [24., 34.], | 
|  | [25., 35.]]]], | 
|  |  | 
|  |  | 
|  |  | 
|  | [[[[ 2., 12.], | 
|  | [ 3., 13.], | 
|  | [ 4., 14.], | 
|  | [ 5., 15.]], | 
|  |  | 
|  | [[ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.]], | 
|  |  | 
|  | [[ 3., 13.], | 
|  | [ 4., 14.], | 
|  | [ 5., 15.], | 
|  | [ 6., 16.]]], | 
|  |  | 
|  |  | 
|  | [[[ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.]], | 
|  |  | 
|  | [[ 5., 15.], | 
|  | [ 6., 16.], | 
|  | [ 7., 17.], | 
|  | [ 8., 18.]], | 
|  |  | 
|  | [[ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.]]]], | 
|  |  | 
|  |  | 
|  |  | 
|  | [[[[10., 20.], | 
|  | [11., 21.], | 
|  | [12., 22.], | 
|  | [13., 23.]], | 
|  |  | 
|  | [[11., 21.], | 
|  | [12., 22.], | 
|  | [13., 23.], | 
|  | [14., 24.]], | 
|  |  | 
|  | [[12., 22.], | 
|  | [13., 23.], | 
|  | [14., 24.], | 
|  | [15., 25.]]], | 
|  |  | 
|  |  | 
|  | [[[15., 25.], | 
|  | [16., 26.], | 
|  | [17., 27.], | 
|  | [18., 28.]], | 
|  |  | 
|  | [[16., 26.], | 
|  | [17., 27.], | 
|  | [18., 28.], | 
|  | [19., 29.]], | 
|  |  | 
|  | [[17., 27.], | 
|  | [18., 28.], | 
|  | [19., 29.], | 
|  | [20., 30.]]]], | 
|  |  | 
|  |  | 
|  |  | 
|  | [[[[ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.]], | 
|  |  | 
|  | [[18., 28.], | 
|  | [19., 29.], | 
|  | [20., 30.], | 
|  | [21., 31.]], | 
|  |  | 
|  | [[19., 29.], | 
|  | [20., 30.], | 
|  | [21., 31.], | 
|  | [22., 32.]]], | 
|  |  | 
|  |  | 
|  | [[[ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.]], | 
|  |  | 
|  | [[23., 33.], | 
|  | [24., 34.], | 
|  | [25., 35.], | 
|  | [26., 36.]], | 
|  |  | 
|  | [[24., 34.], | 
|  | [25., 35.], | 
|  | [26., 36.], | 
|  | [27., 37.]]]]]), device='cuda:0', size=(8, 6, 4, 2), | 
|  | nnz=7, layout=torch.sparse_bsc) | 
|  | # _ccol_indices | 
|  | tensor([0, 4, 7], device='cuda:0', dtype=torch.int32) | 
|  | # _row_indices | 
|  | tensor([0, 1, 2, 3, 0, 2, 3], device='cuda:0', dtype=torch.int32) | 
|  | # _values | 
|  | tensor([[[[[ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.]], | 
|  |  | 
|  | [[ 1., 11.], | 
|  | [ 2., 12.], | 
|  | [ 3., 13.], | 
|  | [ 4., 14.]], | 
|  |  | 
|  | [[ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.]]], | 
|  |  | 
|  |  | 
|  | [[[ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.]], | 
|  |  | 
|  | [[ 4., 14.], | 
|  | [ 5., 15.], | 
|  | [ 6., 16.], | 
|  | [ 7., 17.]], | 
|  |  | 
|  | [[ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.]]]], | 
|  |  | 
|  |  | 
|  |  | 
|  | [[[[ 6., 16.], | 
|  | [ 7., 17.], | 
|  | [ 8., 18.], | 
|  | [ 9., 19.]], | 
|  |  | 
|  | [[ 7., 17.], | 
|  | [ 8., 18.], | 
|  | [ 9., 19.], | 
|  | [10., 20.]], | 
|  |  | 
|  | [[ 8., 18.], | 
|  | [ 9., 19.], | 
|  | [10., 20.], | 
|  | [11., 21.]]], | 
|  |  | 
|  |  | 
|  | [[[ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.]], | 
|  |  | 
|  | [[ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.]], | 
|  |  | 
|  | [[ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.]]]], | 
|  |  | 
|  |  | 
|  |  | 
|  | [[[[ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.]], | 
|  |  | 
|  | [[ 9., 19.], | 
|  | [10., 20.], | 
|  | [11., 21.], | 
|  | [12., 22.]], | 
|  |  | 
|  | [[ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.]]], | 
|  |  | 
|  |  | 
|  | [[[13., 23.], | 
|  | [14., 24.], | 
|  | [15., 25.], | 
|  | [16., 26.]], | 
|  |  | 
|  | [[ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.]], | 
|  |  | 
|  | [[14., 24.], | 
|  | [15., 25.], | 
|  | [16., 26.], | 
|  | [17., 27.]]]], | 
|  |  | 
|  |  | 
|  |  | 
|  | [[[[ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.]], | 
|  |  | 
|  | [[ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.]], | 
|  |  | 
|  | [[ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.]]], | 
|  |  | 
|  |  | 
|  | [[[20., 30.], | 
|  | [21., 31.], | 
|  | [22., 32.], | 
|  | [23., 33.]], | 
|  |  | 
|  | [[21., 31.], | 
|  | [22., 32.], | 
|  | [23., 33.], | 
|  | [24., 34.]], | 
|  |  | 
|  | [[22., 32.], | 
|  | [23., 33.], | 
|  | [24., 34.], | 
|  | [25., 35.]]]], | 
|  |  | 
|  |  | 
|  |  | 
|  | [[[[ 2., 12.], | 
|  | [ 3., 13.], | 
|  | [ 4., 14.], | 
|  | [ 5., 15.]], | 
|  |  | 
|  | [[ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.]], | 
|  |  | 
|  | [[ 3., 13.], | 
|  | [ 4., 14.], | 
|  | [ 5., 15.], | 
|  | [ 6., 16.]]], | 
|  |  | 
|  |  | 
|  | [[[ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.]], | 
|  |  | 
|  | [[ 5., 15.], | 
|  | [ 6., 16.], | 
|  | [ 7., 17.], | 
|  | [ 8., 18.]], | 
|  |  | 
|  | [[ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.]]]], | 
|  |  | 
|  |  | 
|  |  | 
|  | [[[[10., 20.], | 
|  | [11., 21.], | 
|  | [12., 22.], | 
|  | [13., 23.]], | 
|  |  | 
|  | [[11., 21.], | 
|  | [12., 22.], | 
|  | [13., 23.], | 
|  | [14., 24.]], | 
|  |  | 
|  | [[12., 22.], | 
|  | [13., 23.], | 
|  | [14., 24.], | 
|  | [15., 25.]]], | 
|  |  | 
|  |  | 
|  | [[[15., 25.], | 
|  | [16., 26.], | 
|  | [17., 27.], | 
|  | [18., 28.]], | 
|  |  | 
|  | [[16., 26.], | 
|  | [17., 27.], | 
|  | [18., 28.], | 
|  | [19., 29.]], | 
|  |  | 
|  | [[17., 27.], | 
|  | [18., 28.], | 
|  | [19., 29.], | 
|  | [20., 30.]]]], | 
|  |  | 
|  |  | 
|  |  | 
|  | [[[[ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.]], | 
|  |  | 
|  | [[18., 28.], | 
|  | [19., 29.], | 
|  | [20., 30.], | 
|  | [21., 31.]], | 
|  |  | 
|  | [[19., 29.], | 
|  | [20., 30.], | 
|  | [21., 31.], | 
|  | [22., 32.]]], | 
|  |  | 
|  |  | 
|  | [[[ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.]], | 
|  |  | 
|  | [[23., 33.], | 
|  | [24., 34.], | 
|  | [25., 35.], | 
|  | [26., 36.]], | 
|  |  | 
|  | [[24., 34.], | 
|  | [25., 35.], | 
|  | [26., 36.], | 
|  | [27., 37.]]]]], device='cuda:0') | 
|  |  | 
|  |  | 
|  | ########## torch.float64/torch.int32/size=(2, 3)+(2, 3)+(4,) ########## | 
|  | # sparse tensor | 
|  | tensor(ccol_indices=tensor([[[0, 1, 2, 3], | 
|  | [0, 1, 2, 3], | 
|  | [0, 1, 2, 3]], | 
|  |  | 
|  | [[0, 1, 2, 3], | 
|  | [0, 1, 2, 3], | 
|  | [0, 1, 2, 3]]]), | 
|  | row_indices=tensor([[[0, 0, 0], | 
|  | [0, 0, 0], | 
|  | [0, 0, 0]], | 
|  |  | 
|  | [[0, 0, 0], | 
|  | [0, 0, 0], | 
|  | [0, 0, 0]]]), | 
|  | values=tensor([[[[[[1., 2., 3., 4.]], | 
|  |  | 
|  | [[3., 4., 5., 6.]]], | 
|  |  | 
|  |  | 
|  | [[[2., 3., 4., 5.]], | 
|  |  | 
|  | [[0., 0., 0., 0.]]], | 
|  |  | 
|  |  | 
|  | [[[0., 0., 0., 0.]], | 
|  |  | 
|  | [[4., 5., 6., 7.]]]], | 
|  |  | 
|  |  | 
|  |  | 
|  | [[[[1., 2., 3., 4.]], | 
|  |  | 
|  | [[4., 5., 6., 7.]]], | 
|  |  | 
|  |  | 
|  | [[[2., 3., 4., 5.]], | 
|  |  | 
|  | [[0., 0., 0., 0.]]], | 
|  |  | 
|  |  | 
|  | [[[3., 4., 5., 6.]], | 
|  |  | 
|  | [[0., 0., 0., 0.]]]], | 
|  |  | 
|  |  | 
|  |  | 
|  | [[[[1., 2., 3., 4.]], | 
|  |  | 
|  | [[2., 3., 4., 5.]]], | 
|  |  | 
|  |  | 
|  | [[[0., 0., 0., 0.]], | 
|  |  | 
|  | [[3., 4., 5., 6.]]], | 
|  |  | 
|  |  | 
|  | [[[0., 0., 0., 0.]], | 
|  |  | 
|  | [[4., 5., 6., 7.]]]]], | 
|  |  | 
|  |  | 
|  |  | 
|  |  | 
|  | [[[[[0., 0., 0., 0.]], | 
|  |  | 
|  | [[2., 3., 4., 5.]]], | 
|  |  | 
|  |  | 
|  | [[[1., 2., 3., 4.]], | 
|  |  | 
|  | [[3., 4., 5., 6.]]], | 
|  |  | 
|  |  | 
|  | [[[0., 0., 0., 0.]], | 
|  |  | 
|  | [[4., 5., 6., 7.]]]], | 
|  |  | 
|  |  | 
|  |  | 
|  | [[[[1., 2., 3., 4.]], | 
|  |  | 
|  | [[3., 4., 5., 6.]]], | 
|  |  | 
|  |  | 
|  | [[[0., 0., 0., 0.]], | 
|  |  | 
|  | [[4., 5., 6., 7.]]], | 
|  |  | 
|  |  | 
|  | [[[2., 3., 4., 5.]], | 
|  |  | 
|  | [[0., 0., 0., 0.]]]], | 
|  |  | 
|  |  | 
|  |  | 
|  | [[[[1., 2., 3., 4.]], | 
|  |  | 
|  | [[0., 0., 0., 0.]]], | 
|  |  | 
|  |  | 
|  | [[[2., 3., 4., 5.]], | 
|  |  | 
|  | [[4., 5., 6., 7.]]], | 
|  |  | 
|  |  | 
|  | [[[3., 4., 5., 6.]], | 
|  |  | 
|  | [[0., 0., 0., 0.]]]]]]), device='cuda:0', | 
|  | size=(2, 3, 2, 3, 4), nnz=3, dtype=torch.float64, layout=torch.sparse_bsc) | 
|  | # _ccol_indices | 
|  | tensor([[[0, 1, 2, 3], | 
|  | [0, 1, 2, 3], | 
|  | [0, 1, 2, 3]], | 
|  |  | 
|  | [[0, 1, 2, 3], | 
|  | [0, 1, 2, 3], | 
|  | [0, 1, 2, 3]]], device='cuda:0', dtype=torch.int32) | 
|  | # _row_indices | 
|  | tensor([[[0, 0, 0], | 
|  | [0, 0, 0], | 
|  | [0, 0, 0]], | 
|  |  | 
|  | [[0, 0, 0], | 
|  | [0, 0, 0], | 
|  | [0, 0, 0]]], device='cuda:0', dtype=torch.int32) | 
|  | # _values | 
|  | tensor([[[[[[1., 2., 3., 4.]], | 
|  |  | 
|  | [[3., 4., 5., 6.]]], | 
|  |  | 
|  |  | 
|  | [[[2., 3., 4., 5.]], | 
|  |  | 
|  | [[0., 0., 0., 0.]]], | 
|  |  | 
|  |  | 
|  | [[[0., 0., 0., 0.]], | 
|  |  | 
|  | [[4., 5., 6., 7.]]]], | 
|  |  | 
|  |  | 
|  |  | 
|  | [[[[1., 2., 3., 4.]], | 
|  |  | 
|  | [[4., 5., 6., 7.]]], | 
|  |  | 
|  |  | 
|  | [[[2., 3., 4., 5.]], | 
|  |  | 
|  | [[0., 0., 0., 0.]]], | 
|  |  | 
|  |  | 
|  | [[[3., 4., 5., 6.]], | 
|  |  | 
|  | [[0., 0., 0., 0.]]]], | 
|  |  | 
|  |  | 
|  |  | 
|  | [[[[1., 2., 3., 4.]], | 
|  |  | 
|  | [[2., 3., 4., 5.]]], | 
|  |  | 
|  |  | 
|  | [[[0., 0., 0., 0.]], | 
|  |  | 
|  | [[3., 4., 5., 6.]]], | 
|  |  | 
|  |  | 
|  | [[[0., 0., 0., 0.]], | 
|  |  | 
|  | [[4., 5., 6., 7.]]]]], | 
|  |  | 
|  |  | 
|  |  | 
|  |  | 
|  | [[[[[0., 0., 0., 0.]], | 
|  |  | 
|  | [[2., 3., 4., 5.]]], | 
|  |  | 
|  |  | 
|  | [[[1., 2., 3., 4.]], | 
|  |  | 
|  | [[3., 4., 5., 6.]]], | 
|  |  | 
|  |  | 
|  | [[[0., 0., 0., 0.]], | 
|  |  | 
|  | [[4., 5., 6., 7.]]]], | 
|  |  | 
|  |  | 
|  |  | 
|  | [[[[1., 2., 3., 4.]], | 
|  |  | 
|  | [[3., 4., 5., 6.]]], | 
|  |  | 
|  |  | 
|  | [[[0., 0., 0., 0.]], | 
|  |  | 
|  | [[4., 5., 6., 7.]]], | 
|  |  | 
|  |  | 
|  | [[[2., 3., 4., 5.]], | 
|  |  | 
|  | [[0., 0., 0., 0.]]]], | 
|  |  | 
|  |  | 
|  |  | 
|  | [[[[1., 2., 3., 4.]], | 
|  |  | 
|  | [[0., 0., 0., 0.]]], | 
|  |  | 
|  |  | 
|  | [[[2., 3., 4., 5.]], | 
|  |  | 
|  | [[4., 5., 6., 7.]]], | 
|  |  | 
|  |  | 
|  | [[[3., 4., 5., 6.]], | 
|  |  | 
|  | [[0., 0., 0., 0.]]]]]], device='cuda:0', dtype=torch.float64) | 
|  |  | 
|  | ########## torch.float64/torch.int32/size=()+(8, 6)+(4, 2) ########## | 
|  | # sparse tensor | 
|  | tensor(ccol_indices=tensor([0, 4, 7]), | 
|  | row_indices=tensor([0, 1, 2, 3, 0, 2, 3]), | 
|  | values=tensor([[[[[ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.]], | 
|  |  | 
|  | [[ 1., 11.], | 
|  | [ 2., 12.], | 
|  | [ 3., 13.], | 
|  | [ 4., 14.]], | 
|  |  | 
|  | [[ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.]]], | 
|  |  | 
|  |  | 
|  | [[[ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.]], | 
|  |  | 
|  | [[ 4., 14.], | 
|  | [ 5., 15.], | 
|  | [ 6., 16.], | 
|  | [ 7., 17.]], | 
|  |  | 
|  | [[ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.]]]], | 
|  |  | 
|  |  | 
|  |  | 
|  | [[[[ 6., 16.], | 
|  | [ 7., 17.], | 
|  | [ 8., 18.], | 
|  | [ 9., 19.]], | 
|  |  | 
|  | [[ 7., 17.], | 
|  | [ 8., 18.], | 
|  | [ 9., 19.], | 
|  | [10., 20.]], | 
|  |  | 
|  | [[ 8., 18.], | 
|  | [ 9., 19.], | 
|  | [10., 20.], | 
|  | [11., 21.]]], | 
|  |  | 
|  |  | 
|  | [[[ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.]], | 
|  |  | 
|  | [[ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.]], | 
|  |  | 
|  | [[ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.]]]], | 
|  |  | 
|  |  | 
|  |  | 
|  | [[[[ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.]], | 
|  |  | 
|  | [[ 9., 19.], | 
|  | [10., 20.], | 
|  | [11., 21.], | 
|  | [12., 22.]], | 
|  |  | 
|  | [[ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.]]], | 
|  |  | 
|  |  | 
|  | [[[13., 23.], | 
|  | [14., 24.], | 
|  | [15., 25.], | 
|  | [16., 26.]], | 
|  |  | 
|  | [[ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.]], | 
|  |  | 
|  | [[14., 24.], | 
|  | [15., 25.], | 
|  | [16., 26.], | 
|  | [17., 27.]]]], | 
|  |  | 
|  |  | 
|  |  | 
|  | [[[[ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.]], | 
|  |  | 
|  | [[ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.]], | 
|  |  | 
|  | [[ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.]]], | 
|  |  | 
|  |  | 
|  | [[[20., 30.], | 
|  | [21., 31.], | 
|  | [22., 32.], | 
|  | [23., 33.]], | 
|  |  | 
|  | [[21., 31.], | 
|  | [22., 32.], | 
|  | [23., 33.], | 
|  | [24., 34.]], | 
|  |  | 
|  | [[22., 32.], | 
|  | [23., 33.], | 
|  | [24., 34.], | 
|  | [25., 35.]]]], | 
|  |  | 
|  |  | 
|  |  | 
|  | [[[[ 2., 12.], | 
|  | [ 3., 13.], | 
|  | [ 4., 14.], | 
|  | [ 5., 15.]], | 
|  |  | 
|  | [[ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.]], | 
|  |  | 
|  | [[ 3., 13.], | 
|  | [ 4., 14.], | 
|  | [ 5., 15.], | 
|  | [ 6., 16.]]], | 
|  |  | 
|  |  | 
|  | [[[ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.]], | 
|  |  | 
|  | [[ 5., 15.], | 
|  | [ 6., 16.], | 
|  | [ 7., 17.], | 
|  | [ 8., 18.]], | 
|  |  | 
|  | [[ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.]]]], | 
|  |  | 
|  |  | 
|  |  | 
|  | [[[[10., 20.], | 
|  | [11., 21.], | 
|  | [12., 22.], | 
|  | [13., 23.]], | 
|  |  | 
|  | [[11., 21.], | 
|  | [12., 22.], | 
|  | [13., 23.], | 
|  | [14., 24.]], | 
|  |  | 
|  | [[12., 22.], | 
|  | [13., 23.], | 
|  | [14., 24.], | 
|  | [15., 25.]]], | 
|  |  | 
|  |  | 
|  | [[[15., 25.], | 
|  | [16., 26.], | 
|  | [17., 27.], | 
|  | [18., 28.]], | 
|  |  | 
|  | [[16., 26.], | 
|  | [17., 27.], | 
|  | [18., 28.], | 
|  | [19., 29.]], | 
|  |  | 
|  | [[17., 27.], | 
|  | [18., 28.], | 
|  | [19., 29.], | 
|  | [20., 30.]]]], | 
|  |  | 
|  |  | 
|  |  | 
|  | [[[[ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.]], | 
|  |  | 
|  | [[18., 28.], | 
|  | [19., 29.], | 
|  | [20., 30.], | 
|  | [21., 31.]], | 
|  |  | 
|  | [[19., 29.], | 
|  | [20., 30.], | 
|  | [21., 31.], | 
|  | [22., 32.]]], | 
|  |  | 
|  |  | 
|  | [[[ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.]], | 
|  |  | 
|  | [[23., 33.], | 
|  | [24., 34.], | 
|  | [25., 35.], | 
|  | [26., 36.]], | 
|  |  | 
|  | [[24., 34.], | 
|  | [25., 35.], | 
|  | [26., 36.], | 
|  | [27., 37.]]]]]), device='cuda:0', size=(8, 6, 4, 2), | 
|  | nnz=7, dtype=torch.float64, layout=torch.sparse_bsc) | 
|  | # _ccol_indices | 
|  | tensor([0, 4, 7], device='cuda:0', dtype=torch.int32) | 
|  | # _row_indices | 
|  | tensor([0, 1, 2, 3, 0, 2, 3], device='cuda:0', dtype=torch.int32) | 
|  | # _values | 
|  | tensor([[[[[ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.]], | 
|  |  | 
|  | [[ 1., 11.], | 
|  | [ 2., 12.], | 
|  | [ 3., 13.], | 
|  | [ 4., 14.]], | 
|  |  | 
|  | [[ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.]]], | 
|  |  | 
|  |  | 
|  | [[[ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.]], | 
|  |  | 
|  | [[ 4., 14.], | 
|  | [ 5., 15.], | 
|  | [ 6., 16.], | 
|  | [ 7., 17.]], | 
|  |  | 
|  | [[ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.]]]], | 
|  |  | 
|  |  | 
|  |  | 
|  | [[[[ 6., 16.], | 
|  | [ 7., 17.], | 
|  | [ 8., 18.], | 
|  | [ 9., 19.]], | 
|  |  | 
|  | [[ 7., 17.], | 
|  | [ 8., 18.], | 
|  | [ 9., 19.], | 
|  | [10., 20.]], | 
|  |  | 
|  | [[ 8., 18.], | 
|  | [ 9., 19.], | 
|  | [10., 20.], | 
|  | [11., 21.]]], | 
|  |  | 
|  |  | 
|  | [[[ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.]], | 
|  |  | 
|  | [[ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.]], | 
|  |  | 
|  | [[ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.]]]], | 
|  |  | 
|  |  | 
|  |  | 
|  | [[[[ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.]], | 
|  |  | 
|  | [[ 9., 19.], | 
|  | [10., 20.], | 
|  | [11., 21.], | 
|  | [12., 22.]], | 
|  |  | 
|  | [[ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.]]], | 
|  |  | 
|  |  | 
|  | [[[13., 23.], | 
|  | [14., 24.], | 
|  | [15., 25.], | 
|  | [16., 26.]], | 
|  |  | 
|  | [[ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.]], | 
|  |  | 
|  | [[14., 24.], | 
|  | [15., 25.], | 
|  | [16., 26.], | 
|  | [17., 27.]]]], | 
|  |  | 
|  |  | 
|  |  | 
|  | [[[[ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.]], | 
|  |  | 
|  | [[ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.]], | 
|  |  | 
|  | [[ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.]]], | 
|  |  | 
|  |  | 
|  | [[[20., 30.], | 
|  | [21., 31.], | 
|  | [22., 32.], | 
|  | [23., 33.]], | 
|  |  | 
|  | [[21., 31.], | 
|  | [22., 32.], | 
|  | [23., 33.], | 
|  | [24., 34.]], | 
|  |  | 
|  | [[22., 32.], | 
|  | [23., 33.], | 
|  | [24., 34.], | 
|  | [25., 35.]]]], | 
|  |  | 
|  |  | 
|  |  | 
|  | [[[[ 2., 12.], | 
|  | [ 3., 13.], | 
|  | [ 4., 14.], | 
|  | [ 5., 15.]], | 
|  |  | 
|  | [[ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.]], | 
|  |  | 
|  | [[ 3., 13.], | 
|  | [ 4., 14.], | 
|  | [ 5., 15.], | 
|  | [ 6., 16.]]], | 
|  |  | 
|  |  | 
|  | [[[ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.]], | 
|  |  | 
|  | [[ 5., 15.], | 
|  | [ 6., 16.], | 
|  | [ 7., 17.], | 
|  | [ 8., 18.]], | 
|  |  | 
|  | [[ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.]]]], | 
|  |  | 
|  |  | 
|  |  | 
|  | [[[[10., 20.], | 
|  | [11., 21.], | 
|  | [12., 22.], | 
|  | [13., 23.]], | 
|  |  | 
|  | [[11., 21.], | 
|  | [12., 22.], | 
|  | [13., 23.], | 
|  | [14., 24.]], | 
|  |  | 
|  | [[12., 22.], | 
|  | [13., 23.], | 
|  | [14., 24.], | 
|  | [15., 25.]]], | 
|  |  | 
|  |  | 
|  | [[[15., 25.], | 
|  | [16., 26.], | 
|  | [17., 27.], | 
|  | [18., 28.]], | 
|  |  | 
|  | [[16., 26.], | 
|  | [17., 27.], | 
|  | [18., 28.], | 
|  | [19., 29.]], | 
|  |  | 
|  | [[17., 27.], | 
|  | [18., 28.], | 
|  | [19., 29.], | 
|  | [20., 30.]]]], | 
|  |  | 
|  |  | 
|  |  | 
|  | [[[[ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.]], | 
|  |  | 
|  | [[18., 28.], | 
|  | [19., 29.], | 
|  | [20., 30.], | 
|  | [21., 31.]], | 
|  |  | 
|  | [[19., 29.], | 
|  | [20., 30.], | 
|  | [21., 31.], | 
|  | [22., 32.]]], | 
|  |  | 
|  |  | 
|  | [[[ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.]], | 
|  |  | 
|  | [[23., 33.], | 
|  | [24., 34.], | 
|  | [25., 35.], | 
|  | [26., 36.]], | 
|  |  | 
|  | [[24., 34.], | 
|  | [25., 35.], | 
|  | [26., 36.], | 
|  | [27., 37.]]]]], device='cuda:0', dtype=torch.float64) | 
|  |  | 
|  |  | 
|  | ########## torch.float32/torch.int64/size=(2, 3)+(2, 3)+(4,) ########## | 
|  | # sparse tensor | 
|  | tensor(ccol_indices=tensor([[[0, 1, 2, 3], | 
|  | [0, 1, 2, 3], | 
|  | [0, 1, 2, 3]], | 
|  |  | 
|  | [[0, 1, 2, 3], | 
|  | [0, 1, 2, 3], | 
|  | [0, 1, 2, 3]]]), | 
|  | row_indices=tensor([[[0, 0, 0], | 
|  | [0, 0, 0], | 
|  | [0, 0, 0]], | 
|  |  | 
|  | [[0, 0, 0], | 
|  | [0, 0, 0], | 
|  | [0, 0, 0]]]), | 
|  | values=tensor([[[[[[1., 2., 3., 4.]], | 
|  |  | 
|  | [[3., 4., 5., 6.]]], | 
|  |  | 
|  |  | 
|  | [[[2., 3., 4., 5.]], | 
|  |  | 
|  | [[0., 0., 0., 0.]]], | 
|  |  | 
|  |  | 
|  | [[[0., 0., 0., 0.]], | 
|  |  | 
|  | [[4., 5., 6., 7.]]]], | 
|  |  | 
|  |  | 
|  |  | 
|  | [[[[1., 2., 3., 4.]], | 
|  |  | 
|  | [[4., 5., 6., 7.]]], | 
|  |  | 
|  |  | 
|  | [[[2., 3., 4., 5.]], | 
|  |  | 
|  | [[0., 0., 0., 0.]]], | 
|  |  | 
|  |  | 
|  | [[[3., 4., 5., 6.]], | 
|  |  | 
|  | [[0., 0., 0., 0.]]]], | 
|  |  | 
|  |  | 
|  |  | 
|  | [[[[1., 2., 3., 4.]], | 
|  |  | 
|  | [[2., 3., 4., 5.]]], | 
|  |  | 
|  |  | 
|  | [[[0., 0., 0., 0.]], | 
|  |  | 
|  | [[3., 4., 5., 6.]]], | 
|  |  | 
|  |  | 
|  | [[[0., 0., 0., 0.]], | 
|  |  | 
|  | [[4., 5., 6., 7.]]]]], | 
|  |  | 
|  |  | 
|  |  | 
|  |  | 
|  | [[[[[0., 0., 0., 0.]], | 
|  |  | 
|  | [[2., 3., 4., 5.]]], | 
|  |  | 
|  |  | 
|  | [[[1., 2., 3., 4.]], | 
|  |  | 
|  | [[3., 4., 5., 6.]]], | 
|  |  | 
|  |  | 
|  | [[[0., 0., 0., 0.]], | 
|  |  | 
|  | [[4., 5., 6., 7.]]]], | 
|  |  | 
|  |  | 
|  |  | 
|  | [[[[1., 2., 3., 4.]], | 
|  |  | 
|  | [[3., 4., 5., 6.]]], | 
|  |  | 
|  |  | 
|  | [[[0., 0., 0., 0.]], | 
|  |  | 
|  | [[4., 5., 6., 7.]]], | 
|  |  | 
|  |  | 
|  | [[[2., 3., 4., 5.]], | 
|  |  | 
|  | [[0., 0., 0., 0.]]]], | 
|  |  | 
|  |  | 
|  |  | 
|  | [[[[1., 2., 3., 4.]], | 
|  |  | 
|  | [[0., 0., 0., 0.]]], | 
|  |  | 
|  |  | 
|  | [[[2., 3., 4., 5.]], | 
|  |  | 
|  | [[4., 5., 6., 7.]]], | 
|  |  | 
|  |  | 
|  | [[[3., 4., 5., 6.]], | 
|  |  | 
|  | [[0., 0., 0., 0.]]]]]]), device='cuda:0', | 
|  | size=(2, 3, 2, 3, 4), nnz=3, layout=torch.sparse_bsc) | 
|  | # _ccol_indices | 
|  | tensor([[[0, 1, 2, 3], | 
|  | [0, 1, 2, 3], | 
|  | [0, 1, 2, 3]], | 
|  |  | 
|  | [[0, 1, 2, 3], | 
|  | [0, 1, 2, 3], | 
|  | [0, 1, 2, 3]]], device='cuda:0') | 
|  | # _row_indices | 
|  | tensor([[[0, 0, 0], | 
|  | [0, 0, 0], | 
|  | [0, 0, 0]], | 
|  |  | 
|  | [[0, 0, 0], | 
|  | [0, 0, 0], | 
|  | [0, 0, 0]]], device='cuda:0') | 
|  | # _values | 
|  | tensor([[[[[[1., 2., 3., 4.]], | 
|  |  | 
|  | [[3., 4., 5., 6.]]], | 
|  |  | 
|  |  | 
|  | [[[2., 3., 4., 5.]], | 
|  |  | 
|  | [[0., 0., 0., 0.]]], | 
|  |  | 
|  |  | 
|  | [[[0., 0., 0., 0.]], | 
|  |  | 
|  | [[4., 5., 6., 7.]]]], | 
|  |  | 
|  |  | 
|  |  | 
|  | [[[[1., 2., 3., 4.]], | 
|  |  | 
|  | [[4., 5., 6., 7.]]], | 
|  |  | 
|  |  | 
|  | [[[2., 3., 4., 5.]], | 
|  |  | 
|  | [[0., 0., 0., 0.]]], | 
|  |  | 
|  |  | 
|  | [[[3., 4., 5., 6.]], | 
|  |  | 
|  | [[0., 0., 0., 0.]]]], | 
|  |  | 
|  |  | 
|  |  | 
|  | [[[[1., 2., 3., 4.]], | 
|  |  | 
|  | [[2., 3., 4., 5.]]], | 
|  |  | 
|  |  | 
|  | [[[0., 0., 0., 0.]], | 
|  |  | 
|  | [[3., 4., 5., 6.]]], | 
|  |  | 
|  |  | 
|  | [[[0., 0., 0., 0.]], | 
|  |  | 
|  | [[4., 5., 6., 7.]]]]], | 
|  |  | 
|  |  | 
|  |  | 
|  |  | 
|  | [[[[[0., 0., 0., 0.]], | 
|  |  | 
|  | [[2., 3., 4., 5.]]], | 
|  |  | 
|  |  | 
|  | [[[1., 2., 3., 4.]], | 
|  |  | 
|  | [[3., 4., 5., 6.]]], | 
|  |  | 
|  |  | 
|  | [[[0., 0., 0., 0.]], | 
|  |  | 
|  | [[4., 5., 6., 7.]]]], | 
|  |  | 
|  |  | 
|  |  | 
|  | [[[[1., 2., 3., 4.]], | 
|  |  | 
|  | [[3., 4., 5., 6.]]], | 
|  |  | 
|  |  | 
|  | [[[0., 0., 0., 0.]], | 
|  |  | 
|  | [[4., 5., 6., 7.]]], | 
|  |  | 
|  |  | 
|  | [[[2., 3., 4., 5.]], | 
|  |  | 
|  | [[0., 0., 0., 0.]]]], | 
|  |  | 
|  |  | 
|  |  | 
|  | [[[[1., 2., 3., 4.]], | 
|  |  | 
|  | [[0., 0., 0., 0.]]], | 
|  |  | 
|  |  | 
|  | [[[2., 3., 4., 5.]], | 
|  |  | 
|  | [[4., 5., 6., 7.]]], | 
|  |  | 
|  |  | 
|  | [[[3., 4., 5., 6.]], | 
|  |  | 
|  | [[0., 0., 0., 0.]]]]]], device='cuda:0') | 
|  |  | 
|  | ########## torch.float32/torch.int64/size=()+(8, 6)+(4, 2) ########## | 
|  | # sparse tensor | 
|  | tensor(ccol_indices=tensor([0, 4, 7]), | 
|  | row_indices=tensor([0, 1, 2, 3, 0, 2, 3]), | 
|  | values=tensor([[[[[ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.]], | 
|  |  | 
|  | [[ 1., 11.], | 
|  | [ 2., 12.], | 
|  | [ 3., 13.], | 
|  | [ 4., 14.]], | 
|  |  | 
|  | [[ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.]]], | 
|  |  | 
|  |  | 
|  | [[[ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.]], | 
|  |  | 
|  | [[ 4., 14.], | 
|  | [ 5., 15.], | 
|  | [ 6., 16.], | 
|  | [ 7., 17.]], | 
|  |  | 
|  | [[ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.]]]], | 
|  |  | 
|  |  | 
|  |  | 
|  | [[[[ 6., 16.], | 
|  | [ 7., 17.], | 
|  | [ 8., 18.], | 
|  | [ 9., 19.]], | 
|  |  | 
|  | [[ 7., 17.], | 
|  | [ 8., 18.], | 
|  | [ 9., 19.], | 
|  | [10., 20.]], | 
|  |  | 
|  | [[ 8., 18.], | 
|  | [ 9., 19.], | 
|  | [10., 20.], | 
|  | [11., 21.]]], | 
|  |  | 
|  |  | 
|  | [[[ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.]], | 
|  |  | 
|  | [[ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.]], | 
|  |  | 
|  | [[ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.]]]], | 
|  |  | 
|  |  | 
|  |  | 
|  | [[[[ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.]], | 
|  |  | 
|  | [[ 9., 19.], | 
|  | [10., 20.], | 
|  | [11., 21.], | 
|  | [12., 22.]], | 
|  |  | 
|  | [[ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.]]], | 
|  |  | 
|  |  | 
|  | [[[13., 23.], | 
|  | [14., 24.], | 
|  | [15., 25.], | 
|  | [16., 26.]], | 
|  |  | 
|  | [[ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.]], | 
|  |  | 
|  | [[14., 24.], | 
|  | [15., 25.], | 
|  | [16., 26.], | 
|  | [17., 27.]]]], | 
|  |  | 
|  |  | 
|  |  | 
|  | [[[[ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.]], | 
|  |  | 
|  | [[ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.]], | 
|  |  | 
|  | [[ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.]]], | 
|  |  | 
|  |  | 
|  | [[[20., 30.], | 
|  | [21., 31.], | 
|  | [22., 32.], | 
|  | [23., 33.]], | 
|  |  | 
|  | [[21., 31.], | 
|  | [22., 32.], | 
|  | [23., 33.], | 
|  | [24., 34.]], | 
|  |  | 
|  | [[22., 32.], | 
|  | [23., 33.], | 
|  | [24., 34.], | 
|  | [25., 35.]]]], | 
|  |  | 
|  |  | 
|  |  | 
|  | [[[[ 2., 12.], | 
|  | [ 3., 13.], | 
|  | [ 4., 14.], | 
|  | [ 5., 15.]], | 
|  |  | 
|  | [[ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.]], | 
|  |  | 
|  | [[ 3., 13.], | 
|  | [ 4., 14.], | 
|  | [ 5., 15.], | 
|  | [ 6., 16.]]], | 
|  |  | 
|  |  | 
|  | [[[ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.]], | 
|  |  | 
|  | [[ 5., 15.], | 
|  | [ 6., 16.], | 
|  | [ 7., 17.], | 
|  | [ 8., 18.]], | 
|  |  | 
|  | [[ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.]]]], | 
|  |  | 
|  |  | 
|  |  | 
|  | [[[[10., 20.], | 
|  | [11., 21.], | 
|  | [12., 22.], | 
|  | [13., 23.]], | 
|  |  | 
|  | [[11., 21.], | 
|  | [12., 22.], | 
|  | [13., 23.], | 
|  | [14., 24.]], | 
|  |  | 
|  | [[12., 22.], | 
|  | [13., 23.], | 
|  | [14., 24.], | 
|  | [15., 25.]]], | 
|  |  | 
|  |  | 
|  | [[[15., 25.], | 
|  | [16., 26.], | 
|  | [17., 27.], | 
|  | [18., 28.]], | 
|  |  | 
|  | [[16., 26.], | 
|  | [17., 27.], | 
|  | [18., 28.], | 
|  | [19., 29.]], | 
|  |  | 
|  | [[17., 27.], | 
|  | [18., 28.], | 
|  | [19., 29.], | 
|  | [20., 30.]]]], | 
|  |  | 
|  |  | 
|  |  | 
|  | [[[[ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.]], | 
|  |  | 
|  | [[18., 28.], | 
|  | [19., 29.], | 
|  | [20., 30.], | 
|  | [21., 31.]], | 
|  |  | 
|  | [[19., 29.], | 
|  | [20., 30.], | 
|  | [21., 31.], | 
|  | [22., 32.]]], | 
|  |  | 
|  |  | 
|  | [[[ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.]], | 
|  |  | 
|  | [[23., 33.], | 
|  | [24., 34.], | 
|  | [25., 35.], | 
|  | [26., 36.]], | 
|  |  | 
|  | [[24., 34.], | 
|  | [25., 35.], | 
|  | [26., 36.], | 
|  | [27., 37.]]]]]), device='cuda:0', size=(8, 6, 4, 2), | 
|  | nnz=7, layout=torch.sparse_bsc) | 
|  | # _ccol_indices | 
|  | tensor([0, 4, 7], device='cuda:0') | 
|  | # _row_indices | 
|  | tensor([0, 1, 2, 3, 0, 2, 3], device='cuda:0') | 
|  | # _values | 
|  | tensor([[[[[ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.]], | 
|  |  | 
|  | [[ 1., 11.], | 
|  | [ 2., 12.], | 
|  | [ 3., 13.], | 
|  | [ 4., 14.]], | 
|  |  | 
|  | [[ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.]]], | 
|  |  | 
|  |  | 
|  | [[[ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.]], | 
|  |  | 
|  | [[ 4., 14.], | 
|  | [ 5., 15.], | 
|  | [ 6., 16.], | 
|  | [ 7., 17.]], | 
|  |  | 
|  | [[ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.]]]], | 
|  |  | 
|  |  | 
|  |  | 
|  | [[[[ 6., 16.], | 
|  | [ 7., 17.], | 
|  | [ 8., 18.], | 
|  | [ 9., 19.]], | 
|  |  | 
|  | [[ 7., 17.], | 
|  | [ 8., 18.], | 
|  | [ 9., 19.], | 
|  | [10., 20.]], | 
|  |  | 
|  | [[ 8., 18.], | 
|  | [ 9., 19.], | 
|  | [10., 20.], | 
|  | [11., 21.]]], | 
|  |  | 
|  |  | 
|  | [[[ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.]], | 
|  |  | 
|  | [[ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.]], | 
|  |  | 
|  | [[ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.]]]], | 
|  |  | 
|  |  | 
|  |  | 
|  | [[[[ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.]], | 
|  |  | 
|  | [[ 9., 19.], | 
|  | [10., 20.], | 
|  | [11., 21.], | 
|  | [12., 22.]], | 
|  |  | 
|  | [[ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.]]], | 
|  |  | 
|  |  | 
|  | [[[13., 23.], | 
|  | [14., 24.], | 
|  | [15., 25.], | 
|  | [16., 26.]], | 
|  |  | 
|  | [[ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.]], | 
|  |  | 
|  | [[14., 24.], | 
|  | [15., 25.], | 
|  | [16., 26.], | 
|  | [17., 27.]]]], | 
|  |  | 
|  |  | 
|  |  | 
|  | [[[[ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.]], | 
|  |  | 
|  | [[ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.]], | 
|  |  | 
|  | [[ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.]]], | 
|  |  | 
|  |  | 
|  | [[[20., 30.], | 
|  | [21., 31.], | 
|  | [22., 32.], | 
|  | [23., 33.]], | 
|  |  | 
|  | [[21., 31.], | 
|  | [22., 32.], | 
|  | [23., 33.], | 
|  | [24., 34.]], | 
|  |  | 
|  | [[22., 32.], | 
|  | [23., 33.], | 
|  | [24., 34.], | 
|  | [25., 35.]]]], | 
|  |  | 
|  |  | 
|  |  | 
|  | [[[[ 2., 12.], | 
|  | [ 3., 13.], | 
|  | [ 4., 14.], | 
|  | [ 5., 15.]], | 
|  |  | 
|  | [[ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.]], | 
|  |  | 
|  | [[ 3., 13.], | 
|  | [ 4., 14.], | 
|  | [ 5., 15.], | 
|  | [ 6., 16.]]], | 
|  |  | 
|  |  | 
|  | [[[ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.]], | 
|  |  | 
|  | [[ 5., 15.], | 
|  | [ 6., 16.], | 
|  | [ 7., 17.], | 
|  | [ 8., 18.]], | 
|  |  | 
|  | [[ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.]]]], | 
|  |  | 
|  |  | 
|  |  | 
|  | [[[[10., 20.], | 
|  | [11., 21.], | 
|  | [12., 22.], | 
|  | [13., 23.]], | 
|  |  | 
|  | [[11., 21.], | 
|  | [12., 22.], | 
|  | [13., 23.], | 
|  | [14., 24.]], | 
|  |  | 
|  | [[12., 22.], | 
|  | [13., 23.], | 
|  | [14., 24.], | 
|  | [15., 25.]]], | 
|  |  | 
|  |  | 
|  | [[[15., 25.], | 
|  | [16., 26.], | 
|  | [17., 27.], | 
|  | [18., 28.]], | 
|  |  | 
|  | [[16., 26.], | 
|  | [17., 27.], | 
|  | [18., 28.], | 
|  | [19., 29.]], | 
|  |  | 
|  | [[17., 27.], | 
|  | [18., 28.], | 
|  | [19., 29.], | 
|  | [20., 30.]]]], | 
|  |  | 
|  |  | 
|  |  | 
|  | [[[[ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.]], | 
|  |  | 
|  | [[18., 28.], | 
|  | [19., 29.], | 
|  | [20., 30.], | 
|  | [21., 31.]], | 
|  |  | 
|  | [[19., 29.], | 
|  | [20., 30.], | 
|  | [21., 31.], | 
|  | [22., 32.]]], | 
|  |  | 
|  |  | 
|  | [[[ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.]], | 
|  |  | 
|  | [[23., 33.], | 
|  | [24., 34.], | 
|  | [25., 35.], | 
|  | [26., 36.]], | 
|  |  | 
|  | [[24., 34.], | 
|  | [25., 35.], | 
|  | [26., 36.], | 
|  | [27., 37.]]]]], device='cuda:0') | 
|  |  | 
|  |  | 
|  | ########## torch.float64/torch.int64/size=(2, 3)+(2, 3)+(4,) ########## | 
|  | # sparse tensor | 
|  | tensor(ccol_indices=tensor([[[0, 1, 2, 3], | 
|  | [0, 1, 2, 3], | 
|  | [0, 1, 2, 3]], | 
|  |  | 
|  | [[0, 1, 2, 3], | 
|  | [0, 1, 2, 3], | 
|  | [0, 1, 2, 3]]]), | 
|  | row_indices=tensor([[[0, 0, 0], | 
|  | [0, 0, 0], | 
|  | [0, 0, 0]], | 
|  |  | 
|  | [[0, 0, 0], | 
|  | [0, 0, 0], | 
|  | [0, 0, 0]]]), | 
|  | values=tensor([[[[[[1., 2., 3., 4.]], | 
|  |  | 
|  | [[3., 4., 5., 6.]]], | 
|  |  | 
|  |  | 
|  | [[[2., 3., 4., 5.]], | 
|  |  | 
|  | [[0., 0., 0., 0.]]], | 
|  |  | 
|  |  | 
|  | [[[0., 0., 0., 0.]], | 
|  |  | 
|  | [[4., 5., 6., 7.]]]], | 
|  |  | 
|  |  | 
|  |  | 
|  | [[[[1., 2., 3., 4.]], | 
|  |  | 
|  | [[4., 5., 6., 7.]]], | 
|  |  | 
|  |  | 
|  | [[[2., 3., 4., 5.]], | 
|  |  | 
|  | [[0., 0., 0., 0.]]], | 
|  |  | 
|  |  | 
|  | [[[3., 4., 5., 6.]], | 
|  |  | 
|  | [[0., 0., 0., 0.]]]], | 
|  |  | 
|  |  | 
|  |  | 
|  | [[[[1., 2., 3., 4.]], | 
|  |  | 
|  | [[2., 3., 4., 5.]]], | 
|  |  | 
|  |  | 
|  | [[[0., 0., 0., 0.]], | 
|  |  | 
|  | [[3., 4., 5., 6.]]], | 
|  |  | 
|  |  | 
|  | [[[0., 0., 0., 0.]], | 
|  |  | 
|  | [[4., 5., 6., 7.]]]]], | 
|  |  | 
|  |  | 
|  |  | 
|  |  | 
|  | [[[[[0., 0., 0., 0.]], | 
|  |  | 
|  | [[2., 3., 4., 5.]]], | 
|  |  | 
|  |  | 
|  | [[[1., 2., 3., 4.]], | 
|  |  | 
|  | [[3., 4., 5., 6.]]], | 
|  |  | 
|  |  | 
|  | [[[0., 0., 0., 0.]], | 
|  |  | 
|  | [[4., 5., 6., 7.]]]], | 
|  |  | 
|  |  | 
|  |  | 
|  | [[[[1., 2., 3., 4.]], | 
|  |  | 
|  | [[3., 4., 5., 6.]]], | 
|  |  | 
|  |  | 
|  | [[[0., 0., 0., 0.]], | 
|  |  | 
|  | [[4., 5., 6., 7.]]], | 
|  |  | 
|  |  | 
|  | [[[2., 3., 4., 5.]], | 
|  |  | 
|  | [[0., 0., 0., 0.]]]], | 
|  |  | 
|  |  | 
|  |  | 
|  | [[[[1., 2., 3., 4.]], | 
|  |  | 
|  | [[0., 0., 0., 0.]]], | 
|  |  | 
|  |  | 
|  | [[[2., 3., 4., 5.]], | 
|  |  | 
|  | [[4., 5., 6., 7.]]], | 
|  |  | 
|  |  | 
|  | [[[3., 4., 5., 6.]], | 
|  |  | 
|  | [[0., 0., 0., 0.]]]]]]), device='cuda:0', | 
|  | size=(2, 3, 2, 3, 4), nnz=3, dtype=torch.float64, layout=torch.sparse_bsc) | 
|  | # _ccol_indices | 
|  | tensor([[[0, 1, 2, 3], | 
|  | [0, 1, 2, 3], | 
|  | [0, 1, 2, 3]], | 
|  |  | 
|  | [[0, 1, 2, 3], | 
|  | [0, 1, 2, 3], | 
|  | [0, 1, 2, 3]]], device='cuda:0') | 
|  | # _row_indices | 
|  | tensor([[[0, 0, 0], | 
|  | [0, 0, 0], | 
|  | [0, 0, 0]], | 
|  |  | 
|  | [[0, 0, 0], | 
|  | [0, 0, 0], | 
|  | [0, 0, 0]]], device='cuda:0') | 
|  | # _values | 
|  | tensor([[[[[[1., 2., 3., 4.]], | 
|  |  | 
|  | [[3., 4., 5., 6.]]], | 
|  |  | 
|  |  | 
|  | [[[2., 3., 4., 5.]], | 
|  |  | 
|  | [[0., 0., 0., 0.]]], | 
|  |  | 
|  |  | 
|  | [[[0., 0., 0., 0.]], | 
|  |  | 
|  | [[4., 5., 6., 7.]]]], | 
|  |  | 
|  |  | 
|  |  | 
|  | [[[[1., 2., 3., 4.]], | 
|  |  | 
|  | [[4., 5., 6., 7.]]], | 
|  |  | 
|  |  | 
|  | [[[2., 3., 4., 5.]], | 
|  |  | 
|  | [[0., 0., 0., 0.]]], | 
|  |  | 
|  |  | 
|  | [[[3., 4., 5., 6.]], | 
|  |  | 
|  | [[0., 0., 0., 0.]]]], | 
|  |  | 
|  |  | 
|  |  | 
|  | [[[[1., 2., 3., 4.]], | 
|  |  | 
|  | [[2., 3., 4., 5.]]], | 
|  |  | 
|  |  | 
|  | [[[0., 0., 0., 0.]], | 
|  |  | 
|  | [[3., 4., 5., 6.]]], | 
|  |  | 
|  |  | 
|  | [[[0., 0., 0., 0.]], | 
|  |  | 
|  | [[4., 5., 6., 7.]]]]], | 
|  |  | 
|  |  | 
|  |  | 
|  |  | 
|  | [[[[[0., 0., 0., 0.]], | 
|  |  | 
|  | [[2., 3., 4., 5.]]], | 
|  |  | 
|  |  | 
|  | [[[1., 2., 3., 4.]], | 
|  |  | 
|  | [[3., 4., 5., 6.]]], | 
|  |  | 
|  |  | 
|  | [[[0., 0., 0., 0.]], | 
|  |  | 
|  | [[4., 5., 6., 7.]]]], | 
|  |  | 
|  |  | 
|  |  | 
|  | [[[[1., 2., 3., 4.]], | 
|  |  | 
|  | [[3., 4., 5., 6.]]], | 
|  |  | 
|  |  | 
|  | [[[0., 0., 0., 0.]], | 
|  |  | 
|  | [[4., 5., 6., 7.]]], | 
|  |  | 
|  |  | 
|  | [[[2., 3., 4., 5.]], | 
|  |  | 
|  | [[0., 0., 0., 0.]]]], | 
|  |  | 
|  |  | 
|  |  | 
|  | [[[[1., 2., 3., 4.]], | 
|  |  | 
|  | [[0., 0., 0., 0.]]], | 
|  |  | 
|  |  | 
|  | [[[2., 3., 4., 5.]], | 
|  |  | 
|  | [[4., 5., 6., 7.]]], | 
|  |  | 
|  |  | 
|  | [[[3., 4., 5., 6.]], | 
|  |  | 
|  | [[0., 0., 0., 0.]]]]]], device='cuda:0', dtype=torch.float64) | 
|  |  | 
|  | ########## torch.float64/torch.int64/size=()+(8, 6)+(4, 2) ########## | 
|  | # sparse tensor | 
|  | tensor(ccol_indices=tensor([0, 4, 7]), | 
|  | row_indices=tensor([0, 1, 2, 3, 0, 2, 3]), | 
|  | values=tensor([[[[[ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.]], | 
|  |  | 
|  | [[ 1., 11.], | 
|  | [ 2., 12.], | 
|  | [ 3., 13.], | 
|  | [ 4., 14.]], | 
|  |  | 
|  | [[ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.]]], | 
|  |  | 
|  |  | 
|  | [[[ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.]], | 
|  |  | 
|  | [[ 4., 14.], | 
|  | [ 5., 15.], | 
|  | [ 6., 16.], | 
|  | [ 7., 17.]], | 
|  |  | 
|  | [[ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.]]]], | 
|  |  | 
|  |  | 
|  |  | 
|  | [[[[ 6., 16.], | 
|  | [ 7., 17.], | 
|  | [ 8., 18.], | 
|  | [ 9., 19.]], | 
|  |  | 
|  | [[ 7., 17.], | 
|  | [ 8., 18.], | 
|  | [ 9., 19.], | 
|  | [10., 20.]], | 
|  |  | 
|  | [[ 8., 18.], | 
|  | [ 9., 19.], | 
|  | [10., 20.], | 
|  | [11., 21.]]], | 
|  |  | 
|  |  | 
|  | [[[ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.]], | 
|  |  | 
|  | [[ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.]], | 
|  |  | 
|  | [[ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.]]]], | 
|  |  | 
|  |  | 
|  |  | 
|  | [[[[ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.]], | 
|  |  | 
|  | [[ 9., 19.], | 
|  | [10., 20.], | 
|  | [11., 21.], | 
|  | [12., 22.]], | 
|  |  | 
|  | [[ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.]]], | 
|  |  | 
|  |  | 
|  | [[[13., 23.], | 
|  | [14., 24.], | 
|  | [15., 25.], | 
|  | [16., 26.]], | 
|  |  | 
|  | [[ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.]], | 
|  |  | 
|  | [[14., 24.], | 
|  | [15., 25.], | 
|  | [16., 26.], | 
|  | [17., 27.]]]], | 
|  |  | 
|  |  | 
|  |  | 
|  | [[[[ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.]], | 
|  |  | 
|  | [[ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.]], | 
|  |  | 
|  | [[ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.]]], | 
|  |  | 
|  |  | 
|  | [[[20., 30.], | 
|  | [21., 31.], | 
|  | [22., 32.], | 
|  | [23., 33.]], | 
|  |  | 
|  | [[21., 31.], | 
|  | [22., 32.], | 
|  | [23., 33.], | 
|  | [24., 34.]], | 
|  |  | 
|  | [[22., 32.], | 
|  | [23., 33.], | 
|  | [24., 34.], | 
|  | [25., 35.]]]], | 
|  |  | 
|  |  | 
|  |  | 
|  | [[[[ 2., 12.], | 
|  | [ 3., 13.], | 
|  | [ 4., 14.], | 
|  | [ 5., 15.]], | 
|  |  | 
|  | [[ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.]], | 
|  |  | 
|  | [[ 3., 13.], | 
|  | [ 4., 14.], | 
|  | [ 5., 15.], | 
|  | [ 6., 16.]]], | 
|  |  | 
|  |  | 
|  | [[[ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.]], | 
|  |  | 
|  | [[ 5., 15.], | 
|  | [ 6., 16.], | 
|  | [ 7., 17.], | 
|  | [ 8., 18.]], | 
|  |  | 
|  | [[ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.]]]], | 
|  |  | 
|  |  | 
|  |  | 
|  | [[[[10., 20.], | 
|  | [11., 21.], | 
|  | [12., 22.], | 
|  | [13., 23.]], | 
|  |  | 
|  | [[11., 21.], | 
|  | [12., 22.], | 
|  | [13., 23.], | 
|  | [14., 24.]], | 
|  |  | 
|  | [[12., 22.], | 
|  | [13., 23.], | 
|  | [14., 24.], | 
|  | [15., 25.]]], | 
|  |  | 
|  |  | 
|  | [[[15., 25.], | 
|  | [16., 26.], | 
|  | [17., 27.], | 
|  | [18., 28.]], | 
|  |  | 
|  | [[16., 26.], | 
|  | [17., 27.], | 
|  | [18., 28.], | 
|  | [19., 29.]], | 
|  |  | 
|  | [[17., 27.], | 
|  | [18., 28.], | 
|  | [19., 29.], | 
|  | [20., 30.]]]], | 
|  |  | 
|  |  | 
|  |  | 
|  | [[[[ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.]], | 
|  |  | 
|  | [[18., 28.], | 
|  | [19., 29.], | 
|  | [20., 30.], | 
|  | [21., 31.]], | 
|  |  | 
|  | [[19., 29.], | 
|  | [20., 30.], | 
|  | [21., 31.], | 
|  | [22., 32.]]], | 
|  |  | 
|  |  | 
|  | [[[ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.]], | 
|  |  | 
|  | [[23., 33.], | 
|  | [24., 34.], | 
|  | [25., 35.], | 
|  | [26., 36.]], | 
|  |  | 
|  | [[24., 34.], | 
|  | [25., 35.], | 
|  | [26., 36.], | 
|  | [27., 37.]]]]]), device='cuda:0', size=(8, 6, 4, 2), | 
|  | nnz=7, dtype=torch.float64, layout=torch.sparse_bsc) | 
|  | # _ccol_indices | 
|  | tensor([0, 4, 7], device='cuda:0') | 
|  | # _row_indices | 
|  | tensor([0, 1, 2, 3, 0, 2, 3], device='cuda:0') | 
|  | # _values | 
|  | tensor([[[[[ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.]], | 
|  |  | 
|  | [[ 1., 11.], | 
|  | [ 2., 12.], | 
|  | [ 3., 13.], | 
|  | [ 4., 14.]], | 
|  |  | 
|  | [[ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.]]], | 
|  |  | 
|  |  | 
|  | [[[ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.]], | 
|  |  | 
|  | [[ 4., 14.], | 
|  | [ 5., 15.], | 
|  | [ 6., 16.], | 
|  | [ 7., 17.]], | 
|  |  | 
|  | [[ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.]]]], | 
|  |  | 
|  |  | 
|  |  | 
|  | [[[[ 6., 16.], | 
|  | [ 7., 17.], | 
|  | [ 8., 18.], | 
|  | [ 9., 19.]], | 
|  |  | 
|  | [[ 7., 17.], | 
|  | [ 8., 18.], | 
|  | [ 9., 19.], | 
|  | [10., 20.]], | 
|  |  | 
|  | [[ 8., 18.], | 
|  | [ 9., 19.], | 
|  | [10., 20.], | 
|  | [11., 21.]]], | 
|  |  | 
|  |  | 
|  | [[[ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.]], | 
|  |  | 
|  | [[ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.]], | 
|  |  | 
|  | [[ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.]]]], | 
|  |  | 
|  |  | 
|  |  | 
|  | [[[[ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.]], | 
|  |  | 
|  | [[ 9., 19.], | 
|  | [10., 20.], | 
|  | [11., 21.], | 
|  | [12., 22.]], | 
|  |  | 
|  | [[ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.]]], | 
|  |  | 
|  |  | 
|  | [[[13., 23.], | 
|  | [14., 24.], | 
|  | [15., 25.], | 
|  | [16., 26.]], | 
|  |  | 
|  | [[ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.]], | 
|  |  | 
|  | [[14., 24.], | 
|  | [15., 25.], | 
|  | [16., 26.], | 
|  | [17., 27.]]]], | 
|  |  | 
|  |  | 
|  |  | 
|  | [[[[ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.]], | 
|  |  | 
|  | [[ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.]], | 
|  |  | 
|  | [[ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.]]], | 
|  |  | 
|  |  | 
|  | [[[20., 30.], | 
|  | [21., 31.], | 
|  | [22., 32.], | 
|  | [23., 33.]], | 
|  |  | 
|  | [[21., 31.], | 
|  | [22., 32.], | 
|  | [23., 33.], | 
|  | [24., 34.]], | 
|  |  | 
|  | [[22., 32.], | 
|  | [23., 33.], | 
|  | [24., 34.], | 
|  | [25., 35.]]]], | 
|  |  | 
|  |  | 
|  |  | 
|  | [[[[ 2., 12.], | 
|  | [ 3., 13.], | 
|  | [ 4., 14.], | 
|  | [ 5., 15.]], | 
|  |  | 
|  | [[ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.]], | 
|  |  | 
|  | [[ 3., 13.], | 
|  | [ 4., 14.], | 
|  | [ 5., 15.], | 
|  | [ 6., 16.]]], | 
|  |  | 
|  |  | 
|  | [[[ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.]], | 
|  |  | 
|  | [[ 5., 15.], | 
|  | [ 6., 16.], | 
|  | [ 7., 17.], | 
|  | [ 8., 18.]], | 
|  |  | 
|  | [[ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.]]]], | 
|  |  | 
|  |  | 
|  |  | 
|  | [[[[10., 20.], | 
|  | [11., 21.], | 
|  | [12., 22.], | 
|  | [13., 23.]], | 
|  |  | 
|  | [[11., 21.], | 
|  | [12., 22.], | 
|  | [13., 23.], | 
|  | [14., 24.]], | 
|  |  | 
|  | [[12., 22.], | 
|  | [13., 23.], | 
|  | [14., 24.], | 
|  | [15., 25.]]], | 
|  |  | 
|  |  | 
|  | [[[15., 25.], | 
|  | [16., 26.], | 
|  | [17., 27.], | 
|  | [18., 28.]], | 
|  |  | 
|  | [[16., 26.], | 
|  | [17., 27.], | 
|  | [18., 28.], | 
|  | [19., 29.]], | 
|  |  | 
|  | [[17., 27.], | 
|  | [18., 28.], | 
|  | [19., 29.], | 
|  | [20., 30.]]]], | 
|  |  | 
|  |  | 
|  |  | 
|  | [[[[ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.]], | 
|  |  | 
|  | [[18., 28.], | 
|  | [19., 29.], | 
|  | [20., 30.], | 
|  | [21., 31.]], | 
|  |  | 
|  | [[19., 29.], | 
|  | [20., 30.], | 
|  | [21., 31.], | 
|  | [22., 32.]]], | 
|  |  | 
|  |  | 
|  | [[[ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.], | 
|  | [ 0.,  0.]], | 
|  |  | 
|  | [[23., 33.], | 
|  | [24., 34.], | 
|  | [25., 35.], | 
|  | [26., 36.]], | 
|  |  | 
|  | [[24., 34.], | 
|  | [25., 35.], | 
|  | [26., 36.], | 
|  | [27., 37.]]]]], device='cuda:0', dtype=torch.float64) | 
|  |  |