This diff has been collapsed as it changes many lines, (504 lines changed) Show them Hide them | |||||
@@ -21,32 +21,34 from DataIO import DataWriter | |||||
21 |
|
21 | |||
22 | from Model.Spectra import Spectra |
|
22 | from Model.Spectra import Spectra | |
23 |
|
23 | |||
24 | def isThisFileinRange(filename, startUTSeconds, endUTSeconds): |
|
24 | ||
25 | """ |
|
25 | def isThisFileinRange( filename, startUTSeconds, endUTSeconds ): | |
26 | Esta funcion determina si un archivo de datos en formato Jicamarca(.r) se encuentra |
|
26 | """ | |
27 | o no dentro del rango de fecha especificado. |
|
27 | Desc : | |
28 |
|
28 | Esta funcion determina si un archivo de datos en formato Jicamarca(.r) se encuentra | ||
29 | Inputs: |
|
29 | o no dentro del rango de fecha especificado. | |
|
30 | ||||
|
31 | Inputs : | |||
30 | filename : nombre completo del archivo de datos en formato Jicamarca (.r) |
|
32 | filename : nombre completo del archivo de datos en formato Jicamarca (.r) | |
31 |
|
33 | |||
32 | startUTSeconds : fecha inicial del rango seleccionado. La fecha esta dada en |
|
34 | startUTSeconds : fecha inicial del rango seleccionado. La fecha esta dada en | |
33 | segundos contados desde 01/01/1970. |
|
35 | segundos contados desde 01/01/1970. | |
|
36 | ||||
34 | endUTSeconds : fecha final del rango seleccionado. La fecha esta dada en |
|
37 | endUTSeconds : fecha final del rango seleccionado. La fecha esta dada en | |
35 | segundos contados desde 01/01/1970. |
|
38 | segundos contados desde 01/01/1970. | |
36 |
|
39 | |||
37 | Return: |
|
40 | Return : | |
38 | Boolean : Retorna True si el archivo de datos contiene datos en el rango de |
|
41 | Boolean : Retorna True si el archivo de datos contiene datos en el rango de | |
39 | fecha especificado, de lo contrario retorna False. |
|
42 | fecha especificado, de lo contrario retorna False. | |
40 |
|
43 | |||
41 | Excepciones: |
|
44 | Excepciones : | |
42 | Si el archivo no existe o no puede ser abierto |
|
45 | Si el archivo no existe o no puede ser abierto | |
43 | Si la cabecera no puede ser leida. |
|
46 | Si la cabecera no puede ser leida. | |
44 |
|
||||
45 | """ |
|
47 | """ | |
46 | m_BasicHeader = BasicHeader() |
|
48 | m_BasicHeader = BasicHeader() | |
47 |
|
49 | |||
48 | try: |
|
50 | try: | |
49 | fp = open(filename,'rb') |
|
51 | fp = open( filename,'rb' ) #lectura binaria | |
50 | except: |
|
52 | except: | |
51 | raise IOError, "The file %s can't be opened" %(filename) |
|
53 | raise IOError, "The file %s can't be opened" %(filename) | |
52 |
|
54 | |||
@@ -61,19 +63,19 def isThisFileinRange(filename, startUTSeconds, endUTSeconds): | |||||
61 | return 1 |
|
63 | return 1 | |
62 |
|
64 | |||
63 |
|
65 | |||
64 | class SpectraReader(DataReader): |
|
66 | class SpectraReader( DataReader ): | |
65 | """ |
|
67 | """ | |
66 | Esta clase permite leer datos de espectros desde archivos procesados (.pdata). La lectura |
|
68 | Desc : | |
67 | de los datos siempre se realiza por bloques. Los datos leidos (array de 3 dimensiones: |
|
69 | Esta clase permite leer datos de espectros desde archivos procesados (.pdata). La lectura | |
68 | perfiless*alturas*canales) son almacenados en la variable "buffer". |
|
70 | de los datos siempre se realiza por bloques. Los datos leidos (array de 3 dimensiones) | |
69 |
|
71 | son almacenados en tres buffer's para el Self Spectra, el Cross Spectra y el DC Channel. | ||
70 | Esta clase contiene instancias (objetos) de las clases BasicHeader, SystemHeader, |
|
72 | ||
71 | RadarControllerHeader y Spectra. Los tres primeros se usan para almacenar informacion de la |
|
73 | Esta clase contiene instancias (objetos) de las clases BasicHeader, SystemHeader, | |
72 | cabecera de datos (metadata), y el cuarto (Spectra) para obtener y almacenar un bloque de |
|
74 | RadarControllerHeader y Spectra. Los tres primeros se usan para almacenar informacion de la | |
73 | datos desde el "buffer" cada vez que se ejecute el metodo "getData". |
|
75 | cabecera de datos (metadata), y el cuarto (Spectra) para obtener y almacenar un bloque de | |
74 |
|
76 | datos desde el "buffer" cada vez que se ejecute el metodo "getData". | ||
75 | Example: |
|
|||
76 |
|
77 | |||
|
78 | Example : | |||
77 | dpath = "/home/myuser/data" |
|
79 | dpath = "/home/myuser/data" | |
78 |
|
80 | |||
79 | startTime = datetime.datetime(2010,1,20,0,0,0,0,0,0) |
|
81 | startTime = datetime.datetime(2010,1,20,0,0,0,0,0,0) | |
@@ -98,29 +100,28 class SpectraReader(DataReader): | |||||
98 | #speed of light |
|
100 | #speed of light | |
99 | __c = 3E8 |
|
101 | __c = 3E8 | |
100 |
|
102 | |||
|
103 | ||||
101 | def __init__( self, m_Spectra = None ): |
|
104 | def __init__( self, m_Spectra = None ): | |
102 | """ |
|
105 | """ | |
103 | Inicializador de la clase SpectraReader para la lectura de datos de espectros. |
|
106 | Desc : | |
104 |
|
107 | Inicializador de la clase SpectraReader para la lectura de datos de espectros. | ||
105 | Input: |
|
108 | ||
|
109 | Inputs : | |||
106 | m_Spectra : Objeto de la clase Spectra. Este objeto sera utilizado para |
|
110 | m_Spectra : Objeto de la clase Spectra. Este objeto sera utilizado para | |
107 | almacenar un perfil de datos cada vez que se haga un requerimiento |
|
111 | almacenar un perfil de datos cada vez que se haga un requerimiento | |
108 | (getData). El perfil sera obtenido a partir del buffer de datos, |
|
112 | (getData). El perfil sera obtenido a partir del buffer de datos, | |
109 | si el buffer esta vacio se hara un nuevo proceso de lectura de un |
|
113 | si el buffer esta vacio se hara un nuevo proceso de lectura de un | |
110 | bloque de datos. |
|
114 | bloque de datos. | |
111 | Si este parametro no es pasado se creara uno internamente. |
|
115 | Si este parametro no es pasado se creara uno internamente. | |
112 |
|
116 | |||
113 | Variables afectadas: |
|
117 | Affected : | |
114 | self.m_Spectra |
|
118 | self.m_Spectra | |
115 | self.m_BasicHeader |
|
119 | self.m_BasicHeader | |
116 | self.m_SystemHeader |
|
120 | self.m_SystemHeader | |
117 | self.m_RadarControllerHeader |
|
121 | self.m_RadarControllerHeader | |
118 | self.m_ProcessingHeader |
|
122 | self.m_ProcessingHeader | |
119 |
|
123 | |||
120 |
|
124 | Return : Nada | ||
121 | Return: |
|
|||
122 | Void |
|
|||
123 |
|
||||
124 | """ |
|
125 | """ | |
125 | if m_Spectra == None: |
|
126 | if m_Spectra == None: | |
126 | m_Spectra = Spectra() |
|
127 | m_Spectra = Spectra() | |
@@ -180,7 +181,13 class SpectraReader(DataReader): | |||||
180 |
|
181 | |||
181 | self.__buffer_spc = None |
|
182 | self.__buffer_spc = None | |
182 | self.__buffer_cspc = None |
|
183 | self.__buffer_cspc = None | |
183 |
self.__buffer_dc |
|
184 | self.__buffer_dc = None | |
|
185 | ||||
|
186 | self.Npair_SelfSpectra = 0 | |||
|
187 | self.Npair_CrossSpectra = 0 | |||
|
188 | ||||
|
189 | self.pts2read_SelfSpectra = 0 | |||
|
190 | self.pts2read_CrossSpectra = 0 | |||
184 |
|
191 | |||
185 | self.__buffer_id = 0 |
|
192 | self.__buffer_id = 0 | |
186 |
|
193 | |||
@@ -192,31 +199,105 class SpectraReader(DataReader): | |||||
192 |
|
199 | |||
193 | self.nChannels = 0 |
|
200 | self.nChannels = 0 | |
194 |
|
201 | |||
|
202 | ||||
195 | def __rdSystemHeader( self, fp=None ): |
|
203 | def __rdSystemHeader( self, fp=None ): | |
|
204 | """ | |||
|
205 | Desc : | |||
|
206 | Lectura del System Header | |||
|
207 | ||||
|
208 | Inputs : | |||
|
209 | fp : file pointer | |||
|
210 | ||||
|
211 | Affected : Nada | |||
|
212 | self.m_SystemHeader | |||
|
213 | ||||
|
214 | Return : Nada | |||
|
215 | """ | |||
196 | if fp == None: |
|
216 | if fp == None: | |
197 | fp = self.__fp |
|
217 | fp = self.__fp | |
198 |
|
218 | |||
199 | self.m_SystemHeader.read( fp ) |
|
219 | self.m_SystemHeader.read( fp ) | |
|
220 | ||||
200 |
|
221 | |||
201 | def __rdRadarControllerHeader( self, fp=None ): |
|
222 | def __rdRadarControllerHeader( self, fp=None ): | |
|
223 | """ | |||
|
224 | Desc : | |||
|
225 | Lectura del Radar Controller Header | |||
|
226 | ||||
|
227 | Inputs : | |||
|
228 | fp : file pointer | |||
|
229 | ||||
|
230 | Affected : | |||
|
231 | self.m_RadarControllerHeader | |||
|
232 | ||||
|
233 | Return : Nada | |||
|
234 | """ | |||
202 | if fp == None: |
|
235 | if fp == None: | |
203 | fp = self.__fp |
|
236 | fp = self.__fp | |
204 |
|
237 | |||
205 | self.m_RadarControllerHeader.read(fp) |
|
238 | self.m_RadarControllerHeader.read(fp) | |
|
239 | ||||
206 |
|
240 | |||
207 | def __rdProcessingHeader( self,fp=None ): |
|
241 | def __rdProcessingHeader( self,fp=None ): | |
|
242 | """ | |||
|
243 | Desc : | |||
|
244 | Lectura del Processing Header | |||
|
245 | ||||
|
246 | Inputs : | |||
|
247 | fp : file pointer | |||
|
248 | ||||
|
249 | Affected : | |||
|
250 | self.m_ProcessingHeader | |||
|
251 | ||||
|
252 | Return : Nada | |||
|
253 | """ | |||
208 | if fp == None: |
|
254 | if fp == None: | |
209 | fp = self.__fp |
|
255 | fp = self.__fp | |
210 |
|
256 | |||
211 | self.m_ProcessingHeader.read(fp) |
|
257 | self.m_ProcessingHeader.read(fp) | |
212 |
|
258 | |||
|
259 | ||||
213 | def __rdBasicHeader( self, fp=None ): |
|
260 | def __rdBasicHeader( self, fp=None ): | |
|
261 | """ | |||
|
262 | Desc : | |||
|
263 | Lectura del Basic Header | |||
|
264 | ||||
|
265 | Inputs : | |||
|
266 | fp : file pointer | |||
|
267 | ||||
|
268 | Affected : | |||
|
269 | self.m_BasicHeader | |||
|
270 | ||||
|
271 | Return : Nada | |||
|
272 | """ | |||
214 | if fp == None: |
|
273 | if fp == None: | |
215 | fp = self.__fp |
|
274 | fp = self.__fp | |
216 |
|
275 | |||
217 | self.m_BasicHeader.read(fp) |
|
276 | self.m_BasicHeader.read(fp) | |
|
277 | ||||
218 |
|
278 | |||
219 | def __readFirstHeader( self ): |
|
279 | def __readFirstHeader( self ): | |
|
280 | """ | |||
|
281 | Desc : | |||
|
282 | Lectura del First Header, es decir el Basic Header y el Long Header | |||
|
283 | ||||
|
284 | Affected : Nada | |||
|
285 | self.m_BasicHeader | |||
|
286 | self.m_SystemHeader | |||
|
287 | self.m_RadarControllerHeader | |||
|
288 | self.m_ProcessingHeader | |||
|
289 | self.firstHeaderSize | |||
|
290 | self.__heights | |||
|
291 | self.__dataType | |||
|
292 | self.__fileSizeByHeader | |||
|
293 | self.__ippSeconds | |||
|
294 | self.Npair_SelfSpectra | |||
|
295 | self.Npair_CrossSpectra | |||
|
296 | self.pts2read_SelfSpectra | |||
|
297 | self.pts2read_CrossSpectra | |||
|
298 | ||||
|
299 | Return : None | |||
|
300 | """ | |||
220 | self.__rdBasicHeader() |
|
301 | self.__rdBasicHeader() | |
221 | self.__rdSystemHeader() |
|
302 | self.__rdSystemHeader() | |
222 | self.__rdRadarControllerHeader() |
|
303 | self.__rdRadarControllerHeader() | |
@@ -254,10 +335,43 class SpectraReader(DataReader): | |||||
254 | self.__fileSizeByHeader = self.m_ProcessingHeader.dataBlocksPerFile * self.m_ProcessingHeader.blockSize + self.firstHeaderSize + self.basicHeaderSize*(self.m_ProcessingHeader.dataBlocksPerFile - 1) |
|
335 | self.__fileSizeByHeader = self.m_ProcessingHeader.dataBlocksPerFile * self.m_ProcessingHeader.blockSize + self.firstHeaderSize + self.basicHeaderSize*(self.m_ProcessingHeader.dataBlocksPerFile - 1) | |
255 | self.__ippSeconds = 2 * 1000 * self.m_RadarControllerHeader.ipp/self.__c |
|
336 | self.__ippSeconds = 2 * 1000 * self.m_RadarControllerHeader.ipp/self.__c | |
256 |
|
337 | |||
|
338 | self.Npair_SelfSpectra = 0 | |||
|
339 | self.Npair_CrossSpectra = 0 | |||
|
340 | ||||
|
341 | for i in range( 0, self.m_ProcessingHeader.totalSpectra*2, 2 ): | |||
|
342 | if self.m_ProcessingHeader.spectraComb[i] == self.m_ProcessingHeader.spectraComb[i+1]: | |||
|
343 | self.Npair_SelfSpectra = self.Npair_SelfSpectra + 1 | |||
|
344 | else: | |||
|
345 | self.Npair_CrossSpectra = self.Npair_CrossSpectra + 1 | |||
|
346 | ||||
|
347 | pts2read = self.m_ProcessingHeader.profilesPerBlock * self.m_ProcessingHeader.numHeights | |||
|
348 | self.pts2read_SelfSpectra = int( pts2read * self.Npair_SelfSpectra ) | |||
|
349 | self.pts2read_CrossSpectra = int( pts2read * self.Npair_CrossSpectra ) | |||
|
350 | ||||
|
351 | ||||
257 | def __setNextFileOnline( self ): |
|
352 | def __setNextFileOnline( self ): | |
258 | return 1 |
|
353 | return 1 | |
259 |
|
354 | |||
|
355 | ||||
260 | def __setNextFileOffline( self ): |
|
356 | def __setNextFileOffline( self ): | |
|
357 | """ | |||
|
358 | Desc : | |||
|
359 | Busca el siguiente file dentro de un folder que tenga suficiente data para ser leida | |||
|
360 | ||||
|
361 | Affected : | |||
|
362 | self.__flagIsNewFile | |||
|
363 | self.__idFile | |||
|
364 | self.filename | |||
|
365 | self.fileSize | |||
|
366 | self.__fp | |||
|
367 | ||||
|
368 | Return : | |||
|
369 | 0 : si un determinado file no puede ser abierto | |||
|
370 | 1 : si el file fue abierto con exito | |||
|
371 | ||||
|
372 | Excepciones : | |||
|
373 | Si un determinado file no puede ser abierto | |||
|
374 | """ | |||
261 | idFile = self.__idFile |
|
375 | idFile = self.__idFile | |
262 |
|
376 | |||
263 | while(True): |
|
377 | while(True): | |
@@ -294,7 +408,23 class SpectraReader(DataReader): | |||||
294 |
|
408 | |||
295 | return 1 |
|
409 | return 1 | |
296 |
|
410 | |||
297 | def __setNextFile(self): |
|
411 | ||
|
412 | def __setNextFile( self ): | |||
|
413 | """ | |||
|
414 | Desc : | |||
|
415 | Determina el siguiente file a leer y si hay uno disponible lee el First Header | |||
|
416 | ||||
|
417 | Affected : | |||
|
418 | self.m_BasicHeader | |||
|
419 | self.m_SystemHeader | |||
|
420 | self.m_RadarControllerHeader | |||
|
421 | self.m_ProcessingHeader | |||
|
422 | self.firstHeaderSize | |||
|
423 | ||||
|
424 | Return : | |||
|
425 | 0 : Si no hay files disponibles | |||
|
426 | 1 : Si hay mas files disponibles | |||
|
427 | """ | |||
298 | if self.online: |
|
428 | if self.online: | |
299 | newFile = self.__setNextFileOnline() |
|
429 | newFile = self.__setNextFileOnline() | |
300 | else: |
|
430 | else: | |
@@ -307,7 +437,20 class SpectraReader(DataReader): | |||||
307 |
|
437 | |||
308 | return 1 |
|
438 | return 1 | |
309 |
|
439 | |||
|
440 | ||||
310 | def __setNewBlock( self ): |
|
441 | def __setNewBlock( self ): | |
|
442 | """ | |||
|
443 | Desc : | |||
|
444 | Lee el Basic Header y posiciona le file pointer en la posicion inicial del bloque a leer | |||
|
445 | ||||
|
446 | Affected : | |||
|
447 | self.flagResetProcessing | |||
|
448 | self.ns | |||
|
449 | ||||
|
450 | Return : | |||
|
451 | 0 : Si el file no tiene un Basic Header que pueda ser leido | |||
|
452 | 1 : Si se pudo leer el Basic Header | |||
|
453 | """ | |||
311 | if self.__fp == None: |
|
454 | if self.__fp == None: | |
312 | return 0 |
|
455 | return 0 | |
313 |
|
456 | |||
@@ -337,66 +480,48 class SpectraReader(DataReader): | |||||
337 | return 1 |
|
480 | return 1 | |
338 |
|
481 | |||
339 |
|
482 | |||
340 |
|
||||
341 | def __readBlock(self): |
|
483 | def __readBlock(self): | |
342 | """ |
|
484 | """ | |
343 | __readBlock lee el bloque de datos desde la posicion actual del puntero del archivo |
|
485 | Desc : | |
344 | (self.__fp) y actualiza todos los parametros relacionados al bloque de datos |
|
486 | __readBlock lee el bloque de datos desde la posicion actual del puntero del archivo | |
345 | (metadata + data). La data leida es almacenada en el buffer y el contador del buffer |
|
487 | (self.__fp) y actualiza todos los parametros relacionados al bloque de datos | |
346 | es seteado a 0 |
|
488 | (metadata + data). La data leida es almacenada en el buffer y el contador del buffer | |
|
489 | es seteado a 0 | |||
347 |
|
490 | |||
348 | Inputs: |
|
|||
349 | None |
|
|||
350 |
|
||||
351 | Return: |
|
491 | Return: | |
352 | None |
|
492 | None | |
353 |
|
493 | |||
354 | Variables afectadas: |
|
494 | Variables afectadas: | |
355 |
|
||||
356 | self.__buffer_id |
|
495 | self.__buffer_id | |
357 |
|
||||
358 | self.__buffer_sspc |
|
|||
359 |
|
||||
360 | self.__flagIsNewFile |
|
496 | self.__flagIsNewFile | |
361 |
|
||||
362 | self.flagIsNewBlock |
|
497 | self.flagIsNewBlock | |
363 |
|
||||
364 | self.nReadBlocks |
|
498 | self.nReadBlocks | |
365 |
|
499 | self.__buffer_spc | ||
|
500 | self.__buffer_cspc | |||
|
501 | self.__buffer_dc | |||
366 | """ |
|
502 | """ | |
367 | Npair_SelfSpectra = 0 |
|
|||
368 | Npair_CrossSpectra = 0 |
|
|||
369 |
|
||||
370 | for i in range( 0,self.m_ProcessingHeader.totalSpectra*2,2 ): |
|
|||
371 | if self.m_ProcessingHeader.spectraComb[i] == self.m_ProcessingHeader.spectraComb[i+1]: |
|
|||
372 | Npair_SelfSpectra = Npair_SelfSpectra + 1 |
|
|||
373 | else: |
|
|||
374 | Npair_CrossSpectra = Npair_CrossSpectra + 1 |
|
|||
375 |
|
||||
376 | # self.__buffer_sspc = numpy.concatenate( (data_sspc,data_cspc,data_dcc), axis=0 ) |
|
|||
377 |
|
||||
378 | self.__buffer_id = 0 |
|
503 | self.__buffer_id = 0 | |
379 | self.__flagIsNewFile = 0 |
|
504 | self.__flagIsNewFile = 0 | |
380 | self.flagIsNewBlock = 1 |
|
505 | self.flagIsNewBlock = 1 | |
381 |
|
506 | |||
382 | pts2read = self.m_ProcessingHeader.profilesPerBlock*self.m_ProcessingHeader.numHeights |
|
507 | spc = numpy.fromfile( self.__fp, self.__dataType[0], self.pts2read_SelfSpectra ) | |
383 |
|
508 | cspc = numpy.fromfile( self.__fp, self.__dataType, self.pts2read_CrossSpectra ) | ||
384 |
|
|
509 | dc = numpy.fromfile( self.__fp, self.__dataType, int(self.m_ProcessingHeader.numHeights*self.m_SystemHeader.numChannels) ) | |
385 | cspc = numpy.fromfile(self.__fp, self.__dataType, int(pts2read*Npair_CrossSpectra)) |
|
|||
386 | dc = numpy.fromfile(self.__fp, self.__dataType, int(self.m_ProcessingHeader.numHeights*self.m_SystemHeader.numChannels) ) |
|
|||
387 |
|
510 | |||
388 | spc = spc.reshape((Npair_SelfSpectra, self.m_ProcessingHeader.numHeights, self.m_ProcessingHeader.profilesPerBlock)) |
|
511 | spc = spc.reshape( (self.Npair_SelfSpectra, self.m_ProcessingHeader.numHeights, self.m_ProcessingHeader.profilesPerBlock) ) #transforma a un arreglo 3D | |
389 | cspc = cspc.reshape((Npair_CrossSpectra, self.m_ProcessingHeader.numHeights, self.m_ProcessingHeader.profilesPerBlock)) |
|
512 | ||
390 | dc = dc.reshape((self.m_SystemHeader.numChannels, self.m_ProcessingHeader.numHeights)) |
|
513 | cspc = cspc.reshape( (self.Npair_CrossSpectra, self.m_ProcessingHeader.numHeights, self.m_ProcessingHeader.profilesPerBlock) ) #transforma a un arreglo 3D | |
|
514 | dc = dc.reshape( (self.m_SystemHeader.numChannels, self.m_ProcessingHeader.numHeights) ) #transforma a un arreglo 2D | |||
391 |
|
515 | |||
392 | if not(self.m_ProcessingHeader.shif_fft): |
|
516 | if not( self.m_ProcessingHeader.shif_fft ): | |
393 | spc = numpy.roll(spc, self.m_ProcessingHeader.profilesPerBlock/2, axis=2) |
|
517 | spc = numpy.roll( spc, self.m_ProcessingHeader.profilesPerBlock/2, axis=2 ) #desplaza a la derecha en el eje 2 determinadas posiciones | |
394 | cspc = numpy.roll(cspc, self.m_ProcessingHeader.profilesPerBlock/2, axis=2) |
|
518 | cspc = numpy.roll( cspc, self.m_ProcessingHeader.profilesPerBlock/2, axis=2 ) #desplaza a la derecha en el eje 2 determinadas posiciones | |
395 |
|
519 | |||
396 | spc = numpy.transpose(spc, (0,2,1)) |
|
520 | spc = numpy.transpose( spc, (0,2,1) ) | |
397 | cspc = numpy.transpose(cspc, (0,2,1)) |
|
521 | cspc = numpy.transpose( cspc, (0,2,1) ) | |
398 | #dc = numpy.transpose(dc, (0,2,1)) |
|
522 | #dc = numpy.transpose(dc, (0,2,1)) | |
399 |
|
523 | |||
|
524 | """ | |||
400 | data_spc = spc |
|
525 | data_spc = spc | |
401 | data_cspc = cspc['real'] + cspc['imag']*1j |
|
526 | data_cspc = cspc['real'] + cspc['imag']*1j | |
402 | data_dc = dc['real'] + dc['imag']*1j |
|
527 | data_dc = dc['real'] + dc['imag']*1j | |
@@ -404,7 +529,11 class SpectraReader(DataReader): | |||||
404 | self.__buffer_spc = data_spc |
|
529 | self.__buffer_spc = data_spc | |
405 | self.__buffer_cspc = data_cspc |
|
530 | self.__buffer_cspc = data_cspc | |
406 | self.__buffer_dc = data_dc |
|
531 | self.__buffer_dc = data_dc | |
407 |
|
|
532 | """ | |
|
533 | self.__buffer_spc = spc | |||
|
534 | self.__buffer_cspc = cspc['real'] + cspc['imag']*1j | |||
|
535 | self.__buffer_dc = dc['real'] + dc['imag']*1j | |||
|
536 | ||||
408 | self.__flagIsNewFile = 0 |
|
537 | self.__flagIsNewFile = 0 | |
409 |
|
538 | |||
410 | self.flagIsNewBlock = 1 |
|
539 | self.flagIsNewBlock = 1 | |
@@ -412,20 +541,22 class SpectraReader(DataReader): | |||||
412 | self.nReadBlocks += 1 |
|
541 | self.nReadBlocks += 1 | |
413 |
|
542 | |||
414 |
|
543 | |||
415 | def __hasNotDataInBuffer(self): |
|
544 | def __hasNotDataInBuffer( self ): | |
416 | return 1 |
|
545 | return 1 | |
|
546 | ||||
417 |
|
547 | |||
418 | def __searchFiles(self, path, startDateTime, endDateTime, set=None, expLabel = "", ext = ".pdata"): |
|
548 | def __searchFiles( self, path, startDateTime, endDateTime, set=None, expLabel = "", ext = ".pdata" ): | |
419 | """ |
|
549 | """ | |
420 | __searchFiles realiza una busqueda de los archivos que coincidan con los parametros |
|
550 | Desc : | |
421 | especificados y se encuentren ubicados en el path indicado. Para realizar una busqueda |
|
551 | __searchFiles realiza una busqueda de los archivos que coincidan con los parametros | |
422 | correcta la estructura de directorios debe ser la siguiente: |
|
552 | especificados y se encuentren ubicados en el path indicado. Para realizar una busqueda | |
|
553 | correcta la estructura de directorios debe ser la siguiente: | |||
423 |
|
554 | |||
424 | ...path/D[yyyy][ddd]/expLabel/D[yyyy][ddd][sss].ext |
|
555 | ...path/D[yyyy][ddd]/expLabel/D[yyyy][ddd][sss].ext | |
425 |
|
556 | |||
426 | [yyyy]: anio |
|
557 | [yyyy]: anio | |
427 | [ddd] : dia del anio |
|
558 | [ddd] : dia del anio | |
428 | [sss] : set del archivo |
|
559 | [sss] : set del archivo | |
429 |
|
560 | |||
430 | Inputs: |
|
561 | Inputs: | |
431 | path : Directorio de datos donde se realizara la busqueda. Todos los |
|
562 | path : Directorio de datos donde se realizara la busqueda. Todos los | |
@@ -458,9 +589,6 class SpectraReader(DataReader): | |||||
458 | como fuente para leer los bloque de datos, si se termina |
|
589 | como fuente para leer los bloque de datos, si se termina | |
459 | de leer todos los bloques de datos de un determinado |
|
590 | de leer todos los bloques de datos de un determinado | |
460 | archivo se pasa al siguiente archivo de la lista. |
|
591 | archivo se pasa al siguiente archivo de la lista. | |
461 |
|
||||
462 | Excepciones: |
|
|||
463 |
|
||||
464 | """ |
|
592 | """ | |
465 |
|
593 | |||
466 | print "Searching files ..." |
|
594 | print "Searching files ..." | |
@@ -505,11 +633,12 class SpectraReader(DataReader): | |||||
505 |
|
633 | |||
506 | def setup( self, path, startDateTime, endDateTime=None, set=None, expLabel = "", ext = ".pdata", online = 0 ): |
|
634 | def setup( self, path, startDateTime, endDateTime=None, set=None, expLabel = "", ext = ".pdata", online = 0 ): | |
507 | """ |
|
635 | """ | |
508 | setup configura los parametros de lectura de la clase SpectraReader. |
|
636 | Desc : | |
|
637 | setup configura los parametros de lectura de la clase SpectraReader. | |||
509 |
|
638 | |||
510 | Si el modo de lectura es offline, primero se realiza una busqueda de todos los archivos |
|
639 | Si el modo de lectura es offline, primero se realiza una busqueda de todos los archivos | |
511 | que coincidan con los parametros especificados; esta lista de archivos son almacenados en |
|
640 | que coincidan con los parametros especificados; esta lista de archivos son almacenados en | |
512 | self.filenameList. |
|
641 | self.filenameList. | |
513 |
|
642 | |||
514 | Input: |
|
643 | Input: | |
515 | path : Directorios donde se ubican los datos a leer. Dentro de este |
|
644 | path : Directorios donde se ubican los datos a leer. Dentro de este | |
@@ -529,19 +658,25 class SpectraReader(DataReader): | |||||
529 |
|
658 | |||
530 | ext : Extension de los archivos a leer. Por defecto .r |
|
659 | ext : Extension de los archivos a leer. Por defecto .r | |
531 |
|
660 | |||
532 | online : |
|
661 | online : Si es == a 0 entonces busca files que cumplan con las condiciones dadas | |
533 |
|
662 | |||
534 | Return: |
|
663 | Return: | |
|
664 | 0 : Si no encuentra files que cumplan con las condiciones dadas | |||
|
665 | 1 : Si encuentra files que cumplan con las condiciones dadas | |||
535 |
|
666 | |||
536 | Affected: |
|
667 | Affected: | |
537 |
|
668 | self.startUTCSeconds | ||
538 | Excepciones: |
|
669 | self.endUTCSeconds | |
539 |
|
670 | self.startYear | ||
540 | Example: |
|
671 | self.endYear | |
541 |
|
672 | self.startDoy | ||
|
673 | self.endDoy | |||
|
674 | self.__pathList | |||
|
675 | self.filenameList | |||
|
676 | self.online | |||
542 | """ |
|
677 | """ | |
543 | if online == 0: |
|
678 | if online == 0: | |
544 | pathList, filenameList = self.__searchFiles(path, startDateTime, endDateTime, set, expLabel, ext) |
|
679 | pathList, filenameList = self.__searchFiles( path, startDateTime, endDateTime, set, expLabel, ext ) | |
545 |
|
680 | |||
546 | self.__idFile = -1 |
|
681 | self.__idFile = -1 | |
547 |
|
682 | |||
@@ -564,12 +699,18 class SpectraReader(DataReader): | |||||
564 | self.online = online |
|
699 | self.online = online | |
565 |
|
700 | |||
566 | return 1 |
|
701 | return 1 | |
|
702 | ||||
567 |
|
703 | |||
568 | def readNextBlock(self): |
|
704 | def readNextBlock(self): | |
569 | """ |
|
705 | """ | |
570 | readNextBlock establece un nuevo bloque de datos a leer y los lee, si es que no existiese |
|
706 | Desc: | |
571 | mas bloques disponibles en el archivo actual salta al siguiente. |
|
707 | Establece un nuevo bloque de datos a leer y los lee, si es que no existiese | |
572 |
|
708 | mas bloques disponibles en el archivo actual salta al siguiente. | ||
|
709 | ||||
|
710 | Affected: | |||
|
711 | self.__lastUTTime | |||
|
712 | ||||
|
713 | Return: None | |||
573 | """ |
|
714 | """ | |
574 |
|
715 | |||
575 | if not( self.__setNewBlock() ): |
|
716 | if not( self.__setNewBlock() ): | |
@@ -584,23 +725,20 class SpectraReader(DataReader): | |||||
584 |
|
725 | |||
585 | def getData(self): |
|
726 | def getData(self): | |
586 | """ |
|
727 | """ | |
587 | getData copia el buffer de lectura a la clase "Spectra", |
|
728 | Desc: | |
588 | con todos los parametros asociados a este (metadata). cuando no hay datos en el buffer de |
|
729 | Copia el buffer de lectura a la clase "Spectra", | |
589 | lectura es necesario hacer una nueva lectura de los bloques de datos usando "readNextBlock" |
|
730 | con todos los parametros asociados a este (metadata). cuando no hay datos en el buffer de | |
|
731 | lectura es necesario hacer una nueva lectura de los bloques de datos usando "readNextBlock" | |||
590 |
|
732 | |||
591 | Inputs: |
|
|||
592 | None |
|
|||
593 |
|
||||
594 | Return: |
|
733 | Return: | |
595 | data : retorna un bloque de datos (nFFTs * alturas * canales) copiados desde el |
|
734 | 0 : Si no hay mas archivos disponibles | |
596 | buffer. Si no hay mas archivos a leer retorna None. |
|
735 | 1 : Si hizo una buena copia del buffer | |
597 |
|
736 | |||
598 | Variables afectadas: |
|
737 | Variables afectadas: | |
599 | self.m_Spectra |
|
738 | self.m_Spectra | |
600 | self.__buffer_id |
|
739 | self.__buffer_id | |
601 |
|
740 | self.flagResetProcessing | ||
602 | Excepciones: |
|
741 | self.flagIsNewBlock | |
603 |
|
||||
604 | """ |
|
742 | """ | |
605 |
|
743 | |||
606 | self.flagResetProcessing = 0 |
|
744 | self.flagResetProcessing = 0 | |
@@ -621,7 +759,6 class SpectraReader(DataReader): | |||||
621 | return 0 |
|
759 | return 0 | |
622 |
|
760 | |||
623 | #data es un numpy array de 3 dmensiones (perfiles, alturas y canales) |
|
761 | #data es un numpy array de 3 dmensiones (perfiles, alturas y canales) | |
624 | #print type(self.__buffer_sspc) |
|
|||
625 |
|
762 | |||
626 | time = self.m_BasicHeader.utc + self.__buffer_id*self.__ippSeconds |
|
763 | time = self.m_BasicHeader.utc + self.__buffer_id*self.__ippSeconds | |
627 |
|
764 | |||
@@ -631,13 +768,30 class SpectraReader(DataReader): | |||||
631 | self.m_Spectra.data_dc = self.__buffer_dc |
|
768 | self.m_Spectra.data_dc = self.__buffer_dc | |
632 |
|
769 | |||
633 | #call setData - to Data Object |
|
770 | #call setData - to Data Object | |
634 |
|
||||
635 | return 1 |
|
771 | return 1 | |
636 |
|
772 | |||
637 |
|
773 | |||
638 | class SpectraWriter(DataWriter): |
|
774 | class SpectraWriter( DataWriter ): | |
|
775 | """ | |||
|
776 | Desc: | |||
|
777 | Esta clase permite escribir datos de espectros a archivos procesados (.pdata). La escritura | |||
|
778 | de los datos siempre se realiza por bloques. | |||
|
779 | """ | |||
639 |
|
780 | |||
640 | def __init__(self): |
|
781 | def __init__(self): | |
|
782 | """ | |||
|
783 | Desc : | |||
|
784 | Inicializador de la clase SpectraWriter para la escritura de datos de espectros. | |||
|
785 | ||||
|
786 | Affected : | |||
|
787 | self.m_Spectra | |||
|
788 | self.m_BasicHeader | |||
|
789 | self.m_SystemHeader | |||
|
790 | self.m_RadarControllerHeader | |||
|
791 | self.m_ProcessingHeader | |||
|
792 | ||||
|
793 | Return : None | |||
|
794 | """ | |||
641 | if m_Spectra == None: |
|
795 | if m_Spectra == None: | |
642 | m_Spectra = Spectra() |
|
796 | m_Spectra = Spectra() | |
643 |
|
797 | |||
@@ -651,7 +805,7 class SpectraWriter(DataWriter): | |||||
651 |
|
805 | |||
652 | self.__flagIsNewFile = 0 |
|
806 | self.__flagIsNewFile = 0 | |
653 |
|
807 | |||
654 |
self.__buffer_s |
|
808 | self.__buffer_spc = 0 | |
655 |
|
809 | |||
656 | self.__buffer_id = 0 |
|
810 | self.__buffer_id = 0 | |
657 |
|
811 | |||
@@ -674,15 +828,31 class SpectraWriter(DataWriter): | |||||
674 | self.m_RadarControllerHeader = RadarControllerHeader() |
|
828 | self.m_RadarControllerHeader = RadarControllerHeader() | |
675 |
|
829 | |||
676 | self.m_ProcessingHeader = ProcessingHeader() |
|
830 | self.m_ProcessingHeader = ProcessingHeader() | |
|
831 | ||||
677 |
|
832 | |||
678 | def __setNextFile(self): |
|
833 | def __setNextFile(self): | |
|
834 | """ | |||
|
835 | Desc: | |||
|
836 | Determina el siguiente file que sera escrito | |||
|
837 | ||||
|
838 | Affected: | |||
|
839 | self.filename | |||
|
840 | self.__subfolder | |||
|
841 | self.__fp | |||
|
842 | self.__setFile | |||
|
843 | self.__flagIsNewFile | |||
|
844 | ||||
|
845 | Return: | |||
|
846 | 0 : Si el archivo no puede ser escrito | |||
|
847 | 1 : Si el archivo esta listo para ser escrito | |||
|
848 | """ | |||
679 | setFile = self.__setFile |
|
849 | setFile = self.__setFile | |
680 | ext = self.__ext |
|
850 | ext = self.__ext | |
681 | path = self.__path |
|
851 | path = self.__path | |
682 |
|
852 | |||
683 | setFile += 1 |
|
853 | setFile += 1 | |
684 |
|
854 | |||
685 | if not(self.__blocksCounter >= self.m_ProcessingHeader.dataBlocksPerFile): |
|
855 | if not( self.__blocksCounter >= self.m_ProcessingHeader.dataBlocksPerFile ): | |
686 | self.__fp.close() |
|
856 | self.__fp.close() | |
687 | return 0 |
|
857 | return 0 | |
688 |
|
858 | |||
@@ -707,9 +877,16 class SpectraWriter(DataWriter): | |||||
707 |
|
877 | |||
708 | return 1 |
|
878 | return 1 | |
709 |
|
879 | |||
710 |
|
||||
711 |
|
880 | |||
712 | def __setNewBlock(self): |
|
881 | def __setNewBlock( self ): | |
|
882 | """ | |||
|
883 | Desc: | |||
|
884 | Si es un nuevo file escribe el First Header caso contrario escribe solo el Basic Header | |||
|
885 | ||||
|
886 | Return: | |||
|
887 | 0 : si no pudo escribir nada | |||
|
888 | 1 : Si escribio el Basic el First Header | |||
|
889 | """ | |||
713 | if self.__fp == None: |
|
890 | if self.__fp == None: | |
714 | return 0 |
|
891 | return 0 | |
715 |
|
892 | |||
@@ -727,12 +904,28 class SpectraWriter(DataWriter): | |||||
727 | self.__writeFirstHeader() |
|
904 | self.__writeFirstHeader() | |
728 |
|
905 | |||
729 | return 1 |
|
906 | return 1 | |
|
907 | ||||
730 |
|
908 | |||
731 | def __writeBlock(self): |
|
909 | def __writeBlock(self): | |
|
910 | """ | |||
|
911 | Desc: | |||
|
912 | Escribe el buffer en el file designado | |||
|
913 | ||||
|
914 | Return: None | |||
732 |
|
|
915 | ||
733 | numpy.save(self.__fp,self.__buffer_sspc) |
|
916 | Affected: | |
|
917 | self.__buffer_spc | |||
|
918 | self.__buffer_id | |||
|
919 | self.__flagIsNewFile | |||
|
920 | self.flagIsNewBlock | |||
|
921 | self.nWriteBlocks | |||
|
922 | self.__blocksCounter | |||
|
923 | ||||
|
924 | Return: None | |||
|
925 | """ | |||
|
926 | numpy.save(self.__fp,self.__buffer_spc) | |||
734 |
|
927 | |||
735 |
self.__buffer_s |
|
928 | self.__buffer_spc = numpy.array([],self.__dataType) | |
736 |
|
929 | |||
737 | self.__buffer_id = 0 |
|
930 | self.__buffer_id = 0 | |
738 |
|
931 | |||
@@ -744,21 +937,52 class SpectraWriter(DataWriter): | |||||
744 |
|
937 | |||
745 | self.__blocksCounter += 1 |
|
938 | self.__blocksCounter += 1 | |
746 |
|
939 | |||
|
940 | ||||
747 | def writeNextBlock(self): |
|
941 | def writeNextBlock(self): | |
|
942 | """ | |||
|
943 | Desc: | |||
|
944 | Selecciona el bloque siguiente de datos y los escribe en un file | |||
|
945 | ||||
|
946 | Return: | |||
|
947 | 0 : Si no hizo pudo escribir el bloque de datos | |||
|
948 | 1 : Si no pudo escribir el bloque de datos | |||
|
949 | """ | |||
748 | if not(self.__setNewBlock()): |
|
950 | if not(self.__setNewBlock()): | |
749 | return 0 |
|
951 | return 0 | |
750 |
|
952 | |||
751 | self.__writeBlock() |
|
953 | self.__writeBlock() | |
752 |
|
954 | |||
753 | return 1 |
|
955 | return 1 | |
|
956 | ||||
754 |
|
957 | |||
755 | def __hasAllDataInBuffer(self): |
|
958 | def __hasAllDataInBuffer( self ): | |
|
959 | """ | |||
|
960 | Desc: | |||
|
961 | Determina si se tiene toda la data en el buffer | |||
|
962 | ||||
|
963 | Return: | |||
|
964 | 0 : Si no tiene toda la data | |||
|
965 | 1 : Si tiene toda la data | |||
|
966 | """ | |||
756 | if self.__buffer_id >= self.m_ProcessingHeader.profilesPerBlock: |
|
967 | if self.__buffer_id >= self.m_ProcessingHeader.profilesPerBlock: | |
757 | return 1 |
|
968 | return 1 | |
758 |
|
969 | |||
759 | return 0 |
|
970 | return 0 | |
|
971 | ||||
760 |
|
972 | |||
761 | def putData(self): |
|
973 | def putData( self ): | |
|
974 | """ | |||
|
975 | Desc: | |||
|
976 | Setea un bloque de datos y luego los escribe en un file | |||
|
977 | ||||
|
978 | Return: | |||
|
979 | None : Si no hay data o no hay mas files que puedan escribirse | |||
|
980 | 1 : Si se escribio la data de un bloque en un file | |||
|
981 | ||||
|
982 | Affected: | |||
|
983 | self.__buffer_spc | |||
|
984 | self.__buffer_id | |||
|
985 | """ | |||
762 | self.flagIsNewBlock = 0 |
|
986 | self.flagIsNewBlock = 0 | |
763 |
|
987 | |||
764 | if self.m_Spectra.noData: |
|
988 | if self.m_Spectra.noData: | |
@@ -770,13 +994,12 class SpectraWriter(DataWriter): | |||||
770 | data['imag'] = self.m_Spectra.data.imag |
|
994 | data['imag'] = self.m_Spectra.data.imag | |
771 | data = data.reshape((-1)) |
|
995 | data = data.reshape((-1)) | |
772 |
|
996 | |||
773 |
self.__buffer_s |
|
997 | self.__buffer_spc = numpy.hstack((self.__buffer_spc,data)) | |
774 |
|
998 | |||
775 | self.__buffer_id += 1 |
|
999 | self.__buffer_id += 1 | |
776 |
|
1000 | |||
777 | if __hasAllDataInBuffer(): |
|
1001 | if __hasAllDataInBuffer(): | |
778 | self.writeNextBlock() |
|
1002 | self.writeNextBlock() | |
779 |
|
||||
780 |
|
1003 | |||
781 | if self.noMoreFiles: |
|
1004 | if self.noMoreFiles: | |
782 | print 'Process finished' |
|
1005 | print 'Process finished' | |
@@ -785,8 +1008,15 class SpectraWriter(DataWriter): | |||||
785 | return 1 |
|
1008 | return 1 | |
786 |
|
1009 | |||
787 |
|
1010 | |||
788 |
def setup(self, |
|
1011 | def setup( self, set=None, format=None ): | |
789 |
|
1012 | """ | ||
|
1013 | Desc: | |||
|
1014 | Setea el tipo de formato en la cual sera guardada la data y escribe el First Header | |||
|
1015 | ||||
|
1016 | Inputs: | |||
|
1017 | set : el seteo del file a salvar | |||
|
1018 | format : formato en el cual sera salvado un file | |||
|
1019 | """ | |||
790 | if set == None: |
|
1020 | if set == None: | |
791 | set = -1 |
|
1021 | set = -1 | |
792 | else: |
|
1022 | else: | |
@@ -804,18 +1034,18 class SpectraWriter(DataWriter): | |||||
804 |
|
1034 | |||
805 | self.__setFile = set |
|
1035 | self.__setFile = set | |
806 |
|
1036 | |||
807 | if not(self.__setNextFile()): |
|
1037 | if not( self.__setNextFile() ): | |
808 | print "zzzzzzzzzzzz" |
|
1038 | print "zzzzzzzzzzzz" | |
809 | return 0 |
|
1039 | return 0 | |
810 |
|
1040 | |||
811 | self.__writeFirstHeader() # dentro de esta funcion se debe setear e __dataType |
|
1041 | self.__writeFirstHeader() # dentro de esta funcion se debe setear e __dataType | |
812 |
|
1042 | |||
813 |
self.__buffer_s |
|
1043 | self.__buffer_spc = numpy.array( [],self.__dataType ) | |
814 |
|
1044 | |||
815 |
|
1045 | |||
816 |
|
||||
817 | def __writeBasicHeader(self): |
|
1046 | def __writeBasicHeader(self): | |
818 | pass |
|
1047 | pass | |
819 |
|
1048 | |||
|
1049 | ||||
820 | def __writeFirstHeader(self): |
|
1050 | def __writeFirstHeader(self): | |
821 | pass |
|
1051 | pass |
General Comments 0
You need to be logged in to leave comments.
Login now