对DenseTensor进行Transpose

310 0 0

作者:波多尔斯基

ML.NET 是微软推出的为. NET 平台设计的深度学习库，通过这个东西（ModelBuilder）可以自己构建模型，并用于后来的推理与数据处理。虽然设计是很好的，但是由于现在的 AI 发展基本上都以 python 实现作为基础，未来这个东西的发展不好说，特别是模型构建部分。我个人认为，它提供的最有价值的场景是：算法组的同学进行模型构建，然后导出 onnx 格式模型，由 ML.NET 加载并应用于生产环境中。这个流程可以进行持续集成与持续部署，性能也不错。此外，后端人员不需要太多 AI 相关知识，只需要了解怎么处理结果就可以了，这样降低了部署的门槛。

按照这个思路，最近使用 ML. NET 加载 pytorch 导出的 onnx 模型进行推理时，由于模型的输出的行顺序做了调整，我在利用之前需要进行一个 transpose 操作。

请分清楚 reshape 与 transpose 操作的区别，两者有本质不同。

但是 ML.NET 自带的数据功能太少了，后来找了一圈，发现 ML. NET 的 ONNXRUNTIME 设计之初就没有考虑过对其的后续数据处理，他们认为后续处理应当是属于另外过程的问题，需要使用其他的手段来处理数据变换等操作。

不得不说貌似非常有道理，我理解还是太肤浅了，最后使用了很多方法，甚至自己去实现了一个，但是感觉好像有点问题，不能白写，贴在这里了。

//用法
TransposeHelper.TransposeDimensions(w, new int[] { 1, 3, 80, 80, 57 }, new int[] { 1, 3, 57, 80, 80 }, new int[] { 0, 1, 4, 2, 3 })


	//貌似还是有点问题
    internal class TransposeHelper
    {
        public static float[] TransposeDimensions(float[] data, int[] inputShape, int[] outputShape, int[] permutation)
        {
            var rank = inputShape.Length;
            var indices = Enumerable.Range(0, rank).ToArray();
            var transposedIndices = permutation ?? indices.Reverse().ToArray();

            if (inputShape.Length != transposedIndices.Length || inputShape.Length != outputShape.Length)
            {
                throw new ArgumentException("Invalid input shape, output shape or permutation.");
            }

            var transposedData = new float[data.Length];
            var index = new int[rank];

            for (var i = 0; i < data.Length; i++)
            {
                index = GetIndex(i, index, inputShape);
                var transposedIndex = GetTransposedIndex(index, transposedIndices);
                var transposedOffset = GetOffset(transposedIndex, outputShape);
                transposedData[transposedOffset] = data[i];
            }

            return transposedData;
        }

        private static int[] GetIndex(int i, int[] index, int[] shape)
        {
            for (var j = shape.Length - 1; j >= 0; j--)
            {
                var div = 1;

                for (var k = j - 1; k >= 0; k--)
                {
                    div *= shape[k];
                }

                index[j] = i / div % shape[j];
            }

            return index;
        }

        private static int[] GetTransposedIndex(int[] index, int[] transposedIndices)
        {
            var transposedIndex = new int[index.Length];

            for (var i = 0; i < index.Length; i++)
            {
                transposedIndex[i] = index[transposedIndices[i]];
            }

            return transposedIndex;
        }

        private static int GetOffset(int[] index, int[] shape)
        {
            var offset = 0;
            var stride = 1;

            for (var i = shape.Length - 1; i >= 0; i--)
            {
                offset += index[i] * stride;
                stride *= shape[i];
            }

            return offset;
        }

    }

活不能不干，总得想想办法，经过查找，发现 NumSharp 支持 numpy 的 transpose 功能，实现起来和在 numpy 上一样简单：

NumSharp 实现在 C# 上用 numpy 的语法实现其功能，以下代码使用 RoslynPad 运行并测试。

#r "nuget: NumSharp, 0.30.0"  
#r "nuget: System.Numerics.Tensors, 0.1.0"  
  
using System.Numerics.Tensors;  
using NumSharp.Utilities;  
using NumSharp;  
  
var tensor = new DenseTensor<float>(new float[] { 1, 2, 3, 4, 5, 6 }, new[] { 2, 3 });  
//tensor.Dump();  
tensor.Reshape(new int[]{ 3, 2}).Dump();  
NDArray nDArray = new NDArray(tensor.ToArray(), new Shape(new []{ 2, 3}));  
//nDArray.Dump();  
nDArray = nDArray.transpose(new int[]{1,0});  
nDArray.Dump();

内容来源于网络如有侵权请私信删除

文章来源: 博客园

原文链接: https://www.cnblogs.com/podolski/p/17476202.html

标签： AI 人工智能

你还没有登录，请先登录或注册！

还没有人评论，欢迎说说您的想法！

对DenseTensor进行Transpose