Deep Neo-fuzzy Neural Network and its Learning
Journal Title: Бионика интеллекта - Year 2019, Vol 1, Issue 92
Abstract
Optimizing the learning speed of deep neural networks is an extremely important issue. Modern approaches focus on the use of neural networks based on the Rosenblatt perceptron. But the results obtained are not satisfactory for industrial and scientific needs in the context of the speed of learning neural networks. Also, this approach stumbles upon the problems of a vanishing and exploding gradient. To solve the problem, the paper proposed using a neo-fuzzy neuron, whose properties are based on the F-transform. The article discusses the use of neo-fuzzy neuron as the main component of the neural network. The architecture of a deep neo-fuzzy neural network is shown, as well as a backpropagation algorithm for this architecture with a triangular membership function for neo-fuzzy neuron. The main advantages of using neo-fuzzy neuron as the main component of the neural network are given. The article describes the properties of a neo-fuzzy neuron that addresses the issues of improving speed and vanishing or exploding gradient. The proposed neo-fuzzy deep neural network architecture is compared with standard deep networks based on the Rosenblatt perceptron.
Authors and Affiliations
Євгеній Бодянський, Тимофій Антоненко
Моделювання мімо-системи передачі даних в інфокомунікаційних мережах
Наведено результати дослідження впливу розмірів пакетів на характеристики системи MIMO передачі даних в інфокомунікаційних мережах при допустимому поєднанні передатчиків і приймачів. Для проведення досліджень обрана моде...
Analysis of images segmentation methods for car registration numbers
The analysis of existing methods of image segmentation was held. A modified algorithm was developed, which segments the images of the car registration number. The proposed modification is intended for segmentation of no...
Fuzzy clustering of data arrays based on the evolutionary method of cat swarm optimization
The problem of fuzzy clustering of an array of observations based on a fuzzy probabilistic approach, based on the algorithm of fuzzy C-means, reformulated into the problem of unconditional multi-extremal optimization, is...
Розробка математичної моделі задачі планування витрат для системи керування власним бюджетом
Запропоновано математичну модель задачі планування витрат для розширення функціоналу систем керування бюджетом. Математична модель, що врахує витрати, поточні та можливі прибутки людини, дозволить знайти найкращий план д...
Нейромережевий метод кешування даних
Розглянуто основні існуючі види кешування та алгоритми збереження даних в кеш-памяті. запропоновано підхід до здійснення кешування на основі нейронних мереж. Проаналізовано результати роботи проекту-доказу концепції. зап...