20210311周报

这周主要做了两件事情

复杂网络
分别学习深度学习、强化学习
关于研究方向的一些

复杂网络

通过看巴拉巴西网络科学这本书，沿着过去的复杂网络研究思路，寻找复杂网络每一次研究突破的动力所在，我主要关注的点在于：

基于前人的模型提出什么样的问题
通过什么样的方法解决当时模型所遇到的问题，基于此提出什么新的模型

随机网络

高度聚团与小世界

人们观察到，在真实的网络上会出现平均路径比较小的这种情况
解决：提出了小世界模型。

枢纽节点与幂律

在真实网络中发现了一小部分的枢纽节点，同时发现节点的度分布是满足幂律分布，这是通过之前的随机理论解释不了的，
发现问题：我们忽视了随机网络中两个假设：
1. 网络节点的数目确定
2. 所有的节点都是相同的
解决方法：基于对于以上两个假设的理解：加入生长与偏好链接的机制，这里的生长是网络节点与链接都生长，而偏好连接，则是将节点看作是不同的个体，获得连接的能力不同。
建立的BA无标度网络
产生的影响：早加入的节点因，在获取连接的能力会比新节点有明显的优势，老节点会成为枢纽节点，而新加入的节点不可能成为枢纽节点

退化

问题：
1. BA无标度网络中，网络节点与网络的链接一直处于增加的状态，但是在真实的网络当中也存在着网络节点与链接的消失，或者是随着年龄的增长节点获取链接的能力变差甚至会失去某些链接。
2. 在增长的过程中，可能不一定只有新增节点产生链接，有些之前存在的节点也可能与老节点产生链接，也就是内部连接。
解决方法：后来出现了BA扩展模型（Luis Amaral）给节点加上了年龄限制，让节点可以退休甚至可以停止获取连接。
产生的影响：（Sergey Dorogovtsev）扩展模型所提出的老化并没有破坏幂律，只是改变了度分布，就是枢纽节点会发生改变

后来者居上(新节点能成为枢纽节点)

问题：在很多现在的网络中，都会出现新出现不久的节点获取连接的速度和数量与之前的模型存在相违背的地方，甚至能很快的成长为枢纽节点。
解决方法：引入了适应度的竞争形势，来改进模型，以适应度*连接的度进行偏好连接的度量
产生的影响：适应度甚至可以主导网络中的一切，打破和制造新的枢纽节点。在无尺度模型中，网络中节点的连接度按照时间的平方根增长，但是在引入适应度之后每个节点增长的速度不再遵循以上的规律。

适应度引入引出的问题以及带来的影响

问题：在无尺度模型中，网络中节点的连接度按照时间的平方根增长，但是在引入适应度之后每个节点增长的速度不再遵循以上的规律。每个节点的平衡被打破，幂律能否出现？有这种竞争所驱使的模型还是不是无尺度模型？
研究发现，由适应度这种竞争模式，将网络分成了两种：
1. 无尺度依然存在，表现为富者愈富，适应度大的成为最大的枢纽节点
2. 适应度大的节点占有几乎所有的链接。可以通过玻色-爱因斯坦凝聚来解释这种现象。

一些感想

刚刚读到这里，因为枢纽节点与幂律问题的发现，将网络的研究从静态网络带入到不断增长演化的动态网络，从动态网络又衍生出更多的问题，可以发现复杂网络的发展是随着不断的提出原有模型的问题，并不断的解决这些问题，也是不断让模型更好的拟合现实复杂网络的过程。从这个过程中，也不难发现，这些问题的提出与解决方法的提出，都是前人善于观察的结果，不断的发现我们模型与现实网络的差距，不断将现实网络的演化抽象到模型的过程。我认为我目前还是比较缺乏这种发现问题的能力。

深度学习、强化学习–笔记

深度学习

学习了利用tensorflow的建立一个简单的可训练深度神经网络模型
利用sklearn里面的加利福尼亚州房价预测数据集和 tensorflow的fashion_mnist数据集分别进行了回归与分类问题的简单实践
网格化寻找最优超参数
自定义损失函数、自定义神经网络层，实现简单的wide&deep模型
学习卷积神经网络CNN，简单实现对fashion_mnist数据集的图片分类，练习了kaggle上的10-monkeys分类问题
学习tensorflow上restnet50使用，并使用10-monkeys问题进行实践。

强化学习

有模型学习算法，通过我们一直的状态转移函数，也就是对于所面对的环境已知的时候，优化价值函数
无模型学习算法，sarsa和QLearning，这两个看了一下理论，还没有完全看明白。

关于研究方向

在读一篇集智俱乐部的老文章的时候，了解到自动建模已经有所研究，比如通过RNN、图神经网络等，所以接下来会去读一下这个方面的论文，来对复杂网络的建模有更深一步的了解。
意识到，深度强化学习在电网调度方面有比较多的应用，我想在进行电网调度的时候，有没有可能会对复杂的电网进行建模，所以即将沿着这个方向看看论文不知道能不能有所收获。