
x1 = tf.constant ([1., 2., 3.],  dtype=tf.float64)
print(x1)
x2 = tf.cast (x1, tf.int32)  
print(x2)
print (tf.reduce_min(x2),  tf.reduce_max(x2))
 
运行结果：
tf.Tensor([1. 2. 3.], shape=(3,), dtype=float64)
tf.Tensor([1 2 3], shape=(3,), dtype=int32)  
tf.Tensor(1, shape=(), dtype=int32)  
tf.Tensor(3, shape=(), dtype=intt32)

tf. Cast 用于实现强制类型转换把这个张量转换为指定类型

可以用reduce_min()找到这个张量中的最小值

可以用reduce_max()找到这个张量中的最大值

我们构造一个张量他把转换为32位整型

他的最小值时1 最大值是3

axis

在一个二维张量或数组中，可以通过调整 axis 等于0或1 控制执行维度。

axis=0代表跨行（经度，down)，而axis=1代表跨列（纬度，across)

如果不指定axis，则所有元素参与计算。

axis可以指定操作的方向

对于一个二维张量

如果axis=0 表示对第一个维度进行操作纵向操作沿经度方向

如果axis=1 表示对第一个维度进行操作横向操作沿维度方向

如果axis不知道表示对所有维度进行操作

reduce_mean（）

计算张量沿着指定维度的平均值

tf.reduce_mean (张量名，axis=操作轴)


x=tf.constant([[1,2,3],[2,2,3]])
print(x)
print(tf.reduce_mean( x ))
 
运行结果：  
tf.Tensor([[1 2 3][2 2 3]], shape=(2, 3), dtype=int32)
tf.Tensor(2, shape=(), dtype=int32)

比如我们可以通过调整axis=0或者1来控制求平均值的方向

不指定则对所有元素进行操作

两行三列种所有元素求均值均值位2

reduce_sum（）

计算张量沿着指定维度的和

tf.reduce_sum (张量名，axis=操作轴)

举例：


x=tf.constant([[1,2,3],[2,2,3]])
print(x)
print(tf.reduce_sum( x, axis=1 ))
 
运行结果：  
tf.Tensor([[1 2 3][2 2 3]], shape=(2, 3), dtype=int32)
tf.Tensor([6 7], shape=(2,), dtype=int32)

横向求和第一行和为6 第二行和为7

Variable（）

tf.Variable () 将变量标记为“可训练”，被标记的变量会在反向传播 中记录梯度信息。神经网络训练中，常用该函数标记待训练参数。


tf.Variable(初始值)
 
w = tf.Variable(tf.random.normal([2, 2], mean=0, stddev=1))

Variable函数可以将变量标记为“可训练”的

被它标记了的变量会在反向传播中记录自己的梯度信息

神经网络训练中常用这个函数标记待训练的参数

这个例子就是神经网络初始化参数w的代码

随机生成正态分布随机数

再给生成的随机数标记为可训练

这样在反向传播中就可以通过梯度下降更新参数w了

TensorFlow中的数学运算

对应元素的四则运算：tf.add，tf.subtract，tf.multiply，tf.divide


实现两个张量的对应元素相加
tf.add (张量1，张量2)
 
实现两个张量的对应元素相减
 
tf.subtract (张量1，张量2)
 
实现两个张量的对应元素相乘
 
tf.multiply (张量1，张量2)
 
实现两个张量的对应元素相除
 
tf.divide (张量1，张量2)
 
只有维度相同的张量才可以做四则运算

实现两个张量对应元素相加用tf. add (张量1，张量2)

实现两个张量对应元素相减用tf. subtract(张量1，张量2)

实现两个张量对应元素相乘用tf. multiply(张量1，张量2)

实现两个张量对应元素相除用t divide张量1.张量2)

只有维度相同的张量才可以做四则运算

举例：


a = tf.ones([1, 3])
b = tf.fill([1, 3], 3.)
print(a)
print(b)
 
print(tf.add(a,b))
print(tf.subtract(a,b))
print(tf.multiply(a,b))
 
运行结果：
tf.Tensor([[1. 1. 1.]], shape=(1, 3), dtype=float32)
tf.Tensor([[3. 3. 3.]], shape=(1, 3), dtype=float32
tf.Tensor([[4. 4. 4.]], shape=(1, 3), dtype=float32)
tf.Tensor([[-2. -2. -2.]], shape=(1, 3), dtype=float32)
tf.Tensor([[3. 3. 3.]], shape=(1, 3), dtype=float32)

举个例子看一下效果

先创建一个张量一行三列全为1

再创建一个张量一行三列全为3

进行四则运算得到结果

平方、次方与开方： tf.square，tf.pow，tf.sqrt


计算某个张量的平方    
tf.square (张量名)
计算某个张量的n次方
tf.pow (张量名，n次方数)
计算某个张量的开方
tf.sqrt (张量名）
 
a = tf.fill([1, 2], 3.)
print(a)
print(tf.pow(a, 3))
print(tf.square(a))
print(tf.sqrt(a))
 
运行结果：
tf.Tensor([[3. 3.]], shape=(1, 2),  dtype=float32)
tf.Tensor([[27. 27.]], shape=(1, 2),  dtype=float32)
tf.Tensor([[9. 9.]], shape=(1, 2),  dtype=float32)
tf.Tensor([[1.7320508 1.7320508]],
shape=(1, 2), dtype=float32)

举个例子看一下效果

创建一个张量一行两列全为3

进行平方开放次方运算

data.Dataset.from_tensor_slices

切分传入张量的第一维度，生成输入特征/标签对，构建数据集


data = tf.data.Dataset.from_tensor_slices((输入特征, 标签))
 
（Numpy和Tensor格式都可用该语句读入数据）

神经网络在训练时是把输入特征和标签配对后喂入网络的

Tensorflow给出了把特征和标签配对的函数from_tensor_slices

这个函数对numpy格式和tensor格式都适用

举例：


features = tf.constant([12,23,10,17])  
labels = tf.constant([0, 1, 1, 0])
dataset = tf.data.Dataset.from_tensor_slices((features, labels))  
print(dataset)
for element in dataset:  
    print(element)
 
运行结果：
<TensorSliceDataset shapes: ((),()),  types: (tf.int32, tf.int32))> （特征，标签）配对
(<tf.Tensor: id=9, shape=(), dtype=int32, numpy=12>, <tf.Tensor: id=10, shape=(),  dtype=int32, numpy=0>)
(<tf.Tensor: id=11, shape=(), dtype=int32, numpy=23>, <tf.Tensor: id=12, shape=(),  dtype=int32, numpy=1>)
(<tf.Tensor: id=13, shape=(), dtype=int32, numpy=10>, <tf.Tensor: id=14, shape=(),  dtype=int32, numpy=1>)
(<tf.Tensor: id=15, shape=(), dtype=int32, numpy=17>, <tf.Tensor: id=16, shape=(),  dtype=int32, numpy=0>)

举个例子看一下：

收集特征是12 23 10 17每个特征对应的标签是0 1 1 0

用这个函数把特征和标签配上对

看程序运行结果：

特征12和标签0相对应

特征23和标签1相对应

特征10和标签1相对应

特征17和标签0相对应

GradientTape


with tf.GradientTape( ) as tape:
若干个计算过程
grad=tape.gradient(函数，对谁求导)

我们可以在with结构中使用Gradient Tape函数实现某个函数对指定参数的求导运算

配合前面讲过的 gradient函数可以实现损失函数loos对参数w的求导计算


with tf.GradientTape( ) as tape:
    w = tf.Variable(tf.constant(3.0))  
    loss = tf.pow(w,2)
grad = tape.gradient(loss,w)  
print(grad)
 
运行结果：
tf.Tensor(6.0, shape=(), dtype=float32)

在这个例子中：

W初始值为3 损失函数是w的平方损失函数对w求导数是2w

把初始值w=3.0带入得到结果为6.0

计算机运行的结果也是6.0

enumerate

enumerate是python的内建函数，它可遍历每个元素(如列表、元组 或字符串)

组合为：索引 元素，常在for循环中使用。

enumerate(列表名)

enumerate是枚举的意思

它可以枚举出每一个元素并在元素前配上对应的索引号

组合为:索引元素常在for循环中使用


seq = ['one', 'two', 'three']
 
for i, element in enumerate(seq):  
print(i, element)
 
运行结果：
0    one
1    two
2    three

举例：

i 接收索引号 element接收元素运行结果如上

one_hot

独热编码（one-hot encoding）：在分类问题中，常用独热码做标签， 标记类别：1表示是，0表示非。

在实现分类问题时我们常用独热码表示标签

比如我们之前提到的鸢尾花分类如果标签是1 表示分类结果是1杂色鸢尾

把他用独热码的型式表示：

标签: 1

独热码: ( 0 . 1 . 0 .)

这样可以表示出每个分类的概率也就是百分之0的可能是0狗尾草鸢尾


tf.one_hot()函数将待转换数据，转换为one-hot形式的数据输出。
 
tf.one_hot (待转换数据, depth=几分类)

Tensorflow中提供了one_hot函数可以将待转换数据，直接转换为独热码形式形式

两个参数：（带转换数据几分类）

举例：


classes = 3
labels = tf.constant([1,0,2]) # 输入的元素值最小为0，最大为2  
output = tf.one_hot( labels, depth=classes )
print(output)
 
运行结果：
[[0. 1. 0.]
[1. 0. 0.]
[0. 0. 1.]], shape=(3, 3), dtype=float32)

比如：

对于三分类一组标签是1 0 2

转换为独热码型式

把标签1 标签0 标签2 转为为独热码结果是 010 100 001

nn.softmax

0-1概率函数

对于分类问题神经网络完成前向传播计算出了每种类型的可能性大小1.01 2.01 -0.66

这些数字只有符合概率分布后才可以与独热码的标签作比较

于是我们使用这个公式使输出符合概率分布结果是0.256 0. 695 0. 048和为1

0. 256表示0类鸢尾的概率是25. 6%

Tensorflow 中可以使用softmax函数实现这个公式的计算

当n分类的n个输出 （y0 ，y1, …… yn-1）通过softmax( ) 函数， 便符合概率分布了。

举例：


y = tf.constant ( [1.01, 2.01, -0.66] )  
y_pro = tf.nn.softmax(y)
print("After softmax, y_pro is:", y_pro)
 
输出结果：
After softmax, y_pro is: tf.Tensor([0.25598174	0.69583046  0.0481878], shape=(3,), dtype=float32)

举例：

创建如图张量：送入 softmax函数输出就符合概率分布的值

assign_sub

赋值操作，更新参数的值并返回。

调用assign_sub前，先用 tf.Variable 定义变量 w 为可训练（可自更新）。

w.assign_sub (w要自减的内容) w -= 1 即 w = w - 1

Assign_sub函数：常用于参数的自更新等待自更新的参数w 要先被指定为可更新可训练


w = tf.Variable(4)  
w.assign_sub(1)  
print(w)
 
运行结果：
<tf.Variable 'Variable:0' shape=() dtype=int32, numpy=3>

比如：

这个例子里w要先被定义为variable类型初始值是4 I

对w做自减操作，可以用W. assign_sub(1)函数 1表示自减1

这个例子的运行结果：

W的初始值4做自减1操作 w被更新为3

argmax

返回张量沿指定维度最大值的索引

tf.argmax (张量名,axis=操作轴)

tf.argmax可以返回指定操作轴方向最大值的索引号

axis=0表示经度 axis=0表示纬度


import numpy as np
test = np.array([[1, 2, 3], [2, 3, 4], [5, 4, 3], [8, 7, 2]])
print(test)
print( tf.argmax (test, axis=0))  # 返回每一列（经度）最大值的索引
print( tf.argmax (test, axis=1))  # 返回每一行（纬度）最大值的索引
 
[[1 2 3]
 [2 3 4]
 [5 4 3]
 [8 7 2]]
tf.Tensor([3 3 1], shape=(3,), dtype=int64)
tf.Tensor([2 2 0 0], shape=(4,), dtype=int64)

比如：

1 2 5 8 最大8 8索引号 3，2 3 4 7最大7 索引号 3，3 4 3 2最大4 索引号 1

1 2 3 最大3 3索引号 2，2 3 4 最大4 索引号 2，5 4 3最大5 索引号 0，8 7 2最大8 索引号 0

下篇文章会讲利用神经网络实现鸢尾花分类的具体代码

声明：本文内容由网友自发贡献，不代表【wpsshop博客】立场，版权归原作者所有，本站不承担相应法律责任。如您发现有侵权的内容，请联系我们。转载请注明出处：https://www.wpsshop.cn/w/知新_RL/article/detail/340763

[python] 深度学习基础------人工神经网络实现鸢尾花分类(四)_深度学习 鸢尾花

本文主要写神经网络Tensorflow的相关函数

Tensorflow的相关函数

强制tensor转换为该数据类型：tf.cast (张量名，dtype=数据类型)

计算张量维度上元素的最小值：tf.reduce_min (张量名)

计算张量维度上元素的最大值：tf.reduce_max (张量名)

举例：