PLS Regression using JavaScript

是 否 +2 论坛币

k人 参与回答

经管之家送您一份

应届毕业生专属福利!

求职就业群

赵安豆老师微信：zhaoandou666

经管之家联合CDA

送您一个全额奖学金名额~ !

立即领取

感谢您参与论坛问题回答

经管之家送您两个论坛币！

+2 论坛币

1. PLS regression algorithm based on the Yi Cao Matlab implementation:
   
2. 
   
3. Partial Least-Squares and Discriminant Analysis
   
4. 
   
5. installation
   
6. 
   
7. $ npm install ml-pls
   
8. 
   
9. Methods
   
10. 
    
11. new PLS(X, Y)
    
12. 
    
13. pls.train(options)
    
14. 
    
15. Example
    
16. 
    
17. var X = [[0.1, 0.02], [0.25, 1.01] ,[0.95, 0.01], [1.01, 0.96]];
    
18. var Y = [[1, 0], [1, 0], [1, 0], [0, 1]];
    
19. var options = {
    
20.   latentVectors: 10,
    
21.   tolerance: 1e-4
    
22. };
    
23. 
    
24. var pls = new PLS(X, Y);
    
25. pls.train(options);
    
26. predict(dataset)
    
27. 
    
28. Predict the values of the dataset.
    
29. 
    
30. Arguments
    
31. 
    
32. dataset - A matrix that contains the dataset.
    
33. Example
    
34. 
    
35. var dataset = [[0, 0], [0, 1], [1, 0], [1, 1]];
    
36. 
    
37. var ans = pls.predict(dataset);
    
38. getExplainedVariance()
    
39. 
    
40. Returns the explained variance on training
    
41. 
    
42. License
    
43. 
    
44. MIT

复制代码

本帖隐藏的内容

pls-master.zip (8.57 KB)

2016-6-26 23:56:45 上传

扫码加我 拉你入群

请注明：姓名-公司-职位

以便审核进群资格，未注明则拒绝

分享0 收藏0 回帖

关键词：Javascript regression regressio regress script matrix values

1. 'use strict';
   
2. 
   
3. var Matrix = require('ml-matrix');
   
4. var Utils = require('./utils');
   
5. 
   
6. class PLS {
   
7.     constructor(X, Y) {
   
8.         if (X === true) {
   
9.             const model = Y;
   
10.             this.meanX = model.meanX;
    
11.             this.stdDevX = model.stdDevX;
    
12.             this.meanY = model.meanY;
    
13.             this.stdDevY = model.stdDevY;
    
14.             this.PBQ = Matrix.checkMatrix(model.PBQ);
    
15.             this.R2X = model.R2X;
    
16.         } else {
    
17.             if (X.length !== Y.length)
    
18.                 throw new RangeError('The number of X rows must be equal to the number of Y rows');
    
19. 
    
20.             const resultX = Utils.featureNormalize(X);
    
21.             this.X = resultX.result;
    
22.             this.meanX = resultX.means;
    
23.             this.stdDevX = resultX.std;
    
24. 
    
25.             const resultY = Utils.featureNormalize(Y);
    
26.             this.Y = resultY.result;
    
27.             this.meanY = resultY.means;
    
28.             this.stdDevY = resultY.std;
    
29.         }
    
30.     }
    
31. 
    
32.     /**
    
33.      * Fits the model with the given data and predictions, in this function is calculated the
    
34.      * following outputs:
    
35.      *
    
36.      * T - Score matrix of X
    
37.      * P - Loading matrix of X
    
38.      * U - Score matrix of Y
    
39.      * Q - Loading matrix of Y
    
40.      * B - Matrix of regression coefficient
    
41.      * W - Weight matrix of X
    
42.      *
    
43.      * @param {Object} options - recieves the latentVectors and the tolerance of each step of the PLS
    
44.      */
    
45.     train(options) {
    
46.         if(options === undefined) options = {};
    
47. 
    
48.         var latentVectors = options.latentVectors;
    
49.         if (latentVectors === undefined) {
    
50.             latentVectors = Math.min(this.X.length - 1, this.X[0].length);
    
51.         }
    
52. 
    
53.         var tolerance = options.tolerance;
    
54.         if (tolerance === undefined) {
    
55.             tolerance = 1e-5;
    
56.         }
    
57.         
    
58.         var X = this.X;
    
59.         var Y = this.Y;
    
60. 
    
61.         var rx = X.rows;
    
62.         var cx = X.columns;
    
63.         var ry = Y.rows;
    
64.         var cy = Y.columns;
    
65. 
    
66.         var ssqXcal = X.clone().mul(X).sum(); // for the r2
    
67.         var sumOfSquaresY = Y.clone().mul(Y).sum();
    
68. 
    
69.         var n = latentVectors; //Math.max(cx, cy); // components of the pls
    
70.         var T = Matrix.zeros(rx, n);
    
71.         var P = Matrix.zeros(cx, n);
    
72.         var U = Matrix.zeros(ry, n);
    
73.         var Q = Matrix.zeros(cy, n);
    
74.         var B = Matrix.zeros(n, n);
    
75.         var W = P.clone();
    
76.         var k = 0;
    
77. 
    
78.         while(Utils.norm(Y) > tolerance && k < n) {
    
79.             var transposeX = X.transpose();
    
80.             var transposeY = Y.transpose();
    
81. 
    
82.             var tIndex = maxSumColIndex(X.clone().mulM(X));
    
83.             var uIndex = maxSumColIndex(Y.clone().mulM(Y));
    
84. 
    
85.             var t1 = X.getColumnVector(tIndex);
    
86.             var u = Y.getColumnVector(uIndex);
    
87.             var t = Matrix.zeros(rx, 1);
    
88. 
    
89.             while(Utils.norm(t1.clone().sub(t)) > tolerance) {
    
90.                 var w = transposeX.mmul(u);
    
91.                 w.div(Utils.norm(w));
    
92.                 t = t1;
    
93.                 t1 = X.mmul(w);
    
94.                 var q = transposeY.mmul(t1);
    
95.                 q.div(Utils.norm(q));
    
96.                 u = Y.mmul(q);
    
97.             }
    
98. 
    
99.             t = t1;
    
100.             var num = transposeX.mmul(t);
     
101.             var den = (t.transpose().mmul(t))[0][0];
     
102.             var p = num.div(den);
     
103.             var pnorm = Utils.norm(p);
     
104.             p.div(pnorm);
     
105.             t.mul(pnorm);
     
106.             w.mul(pnorm);
     
107. 
     
108.             num = u.transpose().mmul(t);
     
109.             den = (t.transpose().mmul(t))[0][0];
     
110.             var b = (num.div(den))[0][0];
     
111.             X.sub(t.mmul(p.transpose()));
     
112.             Y.sub(t.clone().mul(b).mmul(q.transpose()));
     
113. 
     
114.             T.setColumn(k, t);
     
115.             P.setColumn(k, p);
     
116.             U.setColumn(k, u);
     
117.             Q.setColumn(k, q);
     
118.             W.setColumn(k, w);
     
119. 
     
120.             B[k][k] = b;
     
121.             k++;
     
122.         }
     
123. 
     
124.         k--;
     
125.         T = T.subMatrix(0, T.rows - 1, 0, k);
     
126.         P = P.subMatrix(0, P.rows - 1, 0, k);
     
127.         U = U.subMatrix(0, U.rows - 1, 0, k);
     
128.         Q = Q.subMatrix(0, Q.rows - 1, 0, k);
     
129.         W = W.subMatrix(0, W.rows - 1, 0, k);
     
130.         B = B.subMatrix(0, k, 0, k);
     
131. 
     
132.         // TODO: review of R2Y
     
133.         //this.R2Y = t.transpose().mmul(t).mul(q[k][0]*q[k][0]).divS(ssqYcal)[0][0];
     
134. 
     
135.         this.ssqYcal = sumOfSquaresY;
     
136.         this.E = X;
     
137.         this.F = Y;
     
138.         this.T = T;
     
139.         this.P = P;
     
140.         this.U = U;
     
141.         this.Q = Q;
     
142.         this.W = W;
     
143.         this.B = B;
     
144.         this.PBQ = P.mmul(B).mmul(Q.transpose());
     
145.         this.R2X = t.transpose().mmul(t).mmul(p.transpose().mmul(p)).div(ssqXcal)[0][0];
     
146.     }
     
147. 
     
148.     /**
     
149.      * Predicts the behavior of the given dataset.
     
150.      * @param dataset - data to be predicted.
     
151.      * @returns {Matrix} - predictions of each element of the dataset.
     
152.      */
     
153.     predict(dataset) {
     
154.         var X = Matrix.checkMatrix(dataset);
     
155.         X = X.subRowVector(this.meanX).divRowVector(this.stdDevX);
     
156.         var Y = X.mmul(this.PBQ);
     
157.         Y = Y.mulRowVector(this.stdDevY).addRowVector(this.meanY);
     
158.         return Y;
     
159.     }
     
160. 
     
161.     /**
     
162.      * Returns the explained variance on training of the PLS model
     
163.      * @return {number}
     
164.      */
     
165.     getExplainedVariance() {
     
166.         return this.R2X;
     
167.     }
     
168.    
     
169.     toJSON() {
     
170.         return {
     
171.             name: 'PLS',
     
172.             R2X: this.R2X,
     
173.             meanX: this.meanX,
     
174.             stdDevX: this.stdDevX,
     
175.             meanY: this.meanY,
     
176.             stdDevY: this.stdDevY,
     
177.             PBQ: this.PBQ,
     
178.         };
     
179.     }
     
180. 
     
181.     /**
     
182.      * Load a PLS model from a JSON Object
     
183.      * @param model
     
184.      * @return {PLS} - PLS object from the given model
     
185.      */
     
186.     static load(model) {
     
187.         if (model.name !== 'PLS')
     
188.             throw new RangeError('Invalid model: ' + model.name);
     
189.         return new PLS(true, model);
     
190.     }
     
191. }
     
192. 
     
193. module.exports = PLS;
     
194. 
     
195. /**
     
196. * Retrieves the sum at the column of the given matrix.
     
197. * @param matrix
     
198. * @param column
     
199. * @returns {number}
     
200. */
     
201. function getColSum(matrix, column) {
     
202.     var sum = 0;
     
203.     for (var i = 0; i < matrix.rows; i++) {
     
204.         sum += matrix[i][column];
     
205.     }
     
206.     return sum;
     
207. }
     
208. 
     
209. /**
     
210. * Function that returns the index where the sum of each
     
211. * column vector is maximum.
     
212. * @param {Matrix} data
     
213. * @returns {number} index of the maximum
     
214. */
     
215. function maxSumColIndex(data) {
     
216.     var maxIndex = 0;
     
217.     var maxSum = -Infinity;
     
218.     for(var i = 0; i < data.columns; ++i) {
     
219.         var currentSum = getColSum(data, i);
     
220.         if(currentSum > maxSum) {
     
221.             maxSum = currentSum;
     
222.             maxIndex = i;
     
223.         }
     
224.     }
     
225.     return maxIndex;
     
226. }

复制代码

感谢分享